精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告

本文主要是介绍精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本篇由 Cloud Ace 数据解决方案部高级工程师撰写。

我听说了拉斯维加斯 Google Cloud Next'24 举办的“使用 BigQuery 连续查询构建连续数据和 AI 管道”(“Build continuous data and AI pipelines with BigQuery continuous queries”)会议,我想对此进行报道。

本次会议更详细地介绍了 Google Cloud Next'24 上宣布的 BigQuery 连续查询。我通常使用 BigQuery、Vertex AI 和 Dataflow,因此本次会议是我真正感兴趣的会议。

现在我们来检查一下内容。

可以使用 BigQuery 进行流处理吗?

能够实时处理数据具有巨大的好处。例如,欺诈检测和异常检测通常需要实时数据处理。

此外,您做出的决策越快、越准确,为您的企业带来的好处就越大

为此,需要能够对内容进行实时处理和判断,同时与前后数据进行比较BigQuery 连续查询的推出就是为了满足这一需求。

此功能允许您连续查询流入 BigQuery 的数据。

什么是 BigQuery 连续查询?

同样,它是连续查询流插入数据的能力。

您可以使用基本的 SQL 语法进行查询,当然也可以调用 Generative AI 和 Vertex AI 等机器学习模型。对于实时数据丰富、数据生成和异常检测非常有用。

查询结果可以发送到Pub/Sub或写入BigQuery、Bigtable等。

具体用途和用例

传统上,执行实时处理(例如使用Dataflow实时处理或定期执行计划查询)的障碍很高,并且学习成本也非常高。

BigQuery连续查询不需要您编写任何特殊查询,从而非常容易实现实时处理。要导出数据,除了常规查询之外,只需编写EXPORT DATA语句即可。

这里(我认为是新的)简单介绍了Pub/Sub的EXPORT DATA语句。

要作为连续查询运行,只需选中查询设置中的连续查询复选框即可。这很简单

在会场的演示中,连续查询将数据插入到持续运行一个多小时的BigQuery表中,并确认查询处理后的数据已写入Bigtable。

在此用例中,我们收集在线购物时的用户趋势,使用连续查询实时分析它们,并将结果发送到 Pub/Sub。

发送 Pub/Sub 后,您可以使用其他服务(例如 Cloud Functinos)向用户实时发送电子邮件或分发优惠券。

当然,JOIN操作也是可以的。一侧指定要插入流中的表,您可以与另一个表 JOIN。

对于习惯了流的用户,您可能会对流和窗口之间的 JOIN 感兴趣,但更多信息将在稍后公布。

综上所述

这是一份关于“使用 BigQuery 连续查询构建连续数据和 AI 管道”的会议报告。

BigQuery连续查询是一个可以非常轻松地进行实时数据处理的功能,我们期待BigQuery未来的演变。

没有提到定价,但在与 Google 员工核实后,似乎将根据处理的数据量(针对点播)或使用的插槽数量(针对版本)收取费用。我想在正式发布后再次检查一下。

现有的 Pub/Sub BigQuery 订阅和 BigQuery 连续查询的结合似乎是实时处理的黄金模式。这种组合非常强大,因为它允许仅使用 SQL 来实现实时处理。


Cloud Ace 目前已获得 Google Cloud 生成式 AI 合作伙伴认证,为企业提供生成式 AI 的实施和技术支持。

如果您也想乘上 AI 时代的快车,利用人工智能实现企业的业务转型,请联系我们!

这篇关于精选 | Google Cloud Next‘24 拉斯维加斯会议 BigQuery 连续查询报告的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/937678

相关文章

MySQL存储过程之循环遍历查询的结果集详解

《MySQL存储过程之循环遍历查询的结果集详解》:本文主要介绍MySQL存储过程之循环遍历查询的结果集,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言1. 表结构2. 存储过程3. 关于存储过程的SQL补充总结前言近来碰到这样一个问题:在生产上导入的数据发现

MySQL JSON 查询中的对象与数组技巧及查询示例

《MySQLJSON查询中的对象与数组技巧及查询示例》MySQL中JSON对象和JSON数组查询的详细介绍及带有WHERE条件的查询示例,本文给大家介绍的非常详细,mysqljson查询示例相关知... 目录jsON 对象查询1. JSON_CONTAINS2. JSON_EXTRACT3. JSON_TA

MYSQL查询结果实现发送给客户端

《MYSQL查询结果实现发送给客户端》:本文主要介绍MYSQL查询结果实现发送给客户端方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录mysql取数据和发数据的流程(边读边发)Sending to clientSending DataLRU(Least Rec

MySQL复杂SQL之多表联查/子查询详细介绍(最新整理)

《MySQL复杂SQL之多表联查/子查询详细介绍(最新整理)》掌握多表联查(INNERJOIN,LEFTJOIN,RIGHTJOIN,FULLJOIN)和子查询(标量、列、行、表子查询、相关/非相关、... 目录第一部分:多表联查 (JOIN Operations)1. 连接的类型 (JOIN Types)

python编写朋克风格的天气查询程序

《python编写朋克风格的天气查询程序》这篇文章主要为大家详细介绍了一个基于Python的桌面应用程序,使用了tkinter库来创建图形用户界面并通过requests库调用Open-MeteoAPI... 目录工具介绍工具使用说明python脚本内容如何运行脚本工具介绍这个天气查询工具是一个基于 Pyt

MyBatis编写嵌套子查询的动态SQL实践详解

《MyBatis编写嵌套子查询的动态SQL实践详解》在Java生态中,MyBatis作为一款优秀的ORM框架,广泛应用于数据库操作,本文将深入探讨如何在MyBatis中编写嵌套子查询的动态SQL,并结... 目录一、Myhttp://www.chinasem.cnBATis动态SQL的核心优势1. 灵活性与可

Mybatis嵌套子查询动态SQL编写实践

《Mybatis嵌套子查询动态SQL编写实践》:本文主要介绍Mybatis嵌套子查询动态SQL编写方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言一、实体类1、主类2、子类二、Mapper三、XML四、详解总结前言MyBATis的xml文件编写动态SQL

在Java中基于Geotools对PostGIS数据库的空间查询实践教程

《在Java中基于Geotools对PostGIS数据库的空间查询实践教程》本文将深入探讨这一实践,从连接配置到复杂空间查询操作,包括点查询、区域范围查询以及空间关系判断等,全方位展示如何在Java环... 目录前言一、相关技术背景介绍1、评价对象AOI2、数据处理流程二、对AOI空间范围查询实践1、空间查

MySQL基本查询示例总结

《MySQL基本查询示例总结》:本文主要介绍MySQL基本查询示例总结,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录Create插入替换Retrieve(读取)select(确定列)where条件(确定行)null查询order by语句li

Spring Cloud GateWay搭建全过程

《SpringCloudGateWay搭建全过程》:本文主要介绍SpringCloudGateWay搭建全过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录Spring Cloud GateWay搭建1.搭建注册中心1.1添加依赖1.2 配置文件及启动类1.3 测