Databricks将在VLDB 2026展示Lakebase、流处理与湖仓创新
DataHot 速览
Databricks将参加VLDB 2026并展示多项平台创新,联合创始人Reynold Xin将做开幕主题演讲,回顾数据库工程发展并提出Lakebase与LTAP两大新范式。Lakebase作为第三代云数据库架构,将Serverless Postgres计算与存储分离,数据以开放格式直接存入云对象存储,支持亚秒级冷启动和类Git的数据库分支。大会还接收了四篇论文,涉及Lakebase、Spark Structured Streaming、Lakehouse自动优化以及Enzyme引擎的增量物化视图维护。
为什么值得关注:数据从业者可借此了解湖仓架构与AI代理工作负载对数据库工程的新要求,把握下一代数据平台演进方向。
译文
AI 逐段翻译我们将前往VLDB 2026分享多项推动 Databricks 平台的创新。Databricks 联合创始人兼首席架构师 Reynold Xin 将以开幕主题演讲开启会议。Databricks 有四篇论文被录用,涉及 Lakebase、Spark Structured Streaming 和自动 Lakehouse 优化。关于 Enzyme 引擎的演示论文将展示我们如何增量维护物化视图。以下是这些演讲的预览。
主题演讲:数据库工程的三个黄金时代
Databricks 联合创始人 Reynold Xin 将讨论 AI 代理如何引领数据库工程的"第三个黄金时代"。你们中有些人可能记得他 2012 年初在伯克利从事的可扩展分析系统 Shark 的工作。Reynold 将回顾他从伯克利时代以来对数据库技术观点的演变,经历了 Lakehouse 架构的兴起,以及现在对事务和分析引擎需求的不断变化。他将介绍两种有助于满足 AI 代理需求的新范式:(1) Lakebase,它将存储和计算分离应用于 OLTP 数据库;(2) LTAP(Lake 事务分析处理),它统一了事务和分析处理。
Lakebase:开源湖存储上的无服务器 Postgres
AI 代理工作负载正在产生独特的使用模式,例如数百万个短期、深度分支的数据库。传统的 OLTP 引擎是单体架构,无法满足这些严苛要求。Stas Kelvich 将介绍 Lakebase 架构,这是一种第三代云数据库架构。Lakebase 通过将无服务器 PostgreSQL 计算与存储解耦,并直接使用开放格式将数据和预写日志持久化到云对象存储中,满足代理工作流的需求。Lakebase 不仅提供亚秒级冷启动,还通过写时复制分支实现高效的类 Git 数据库工作流。此外,凭借其计算存储分离,它能够在实时事务数据上进行低延迟分析。图 1 展示了 Lakebase 如何引领第三代云数据库。

图 1:Lakebase Postgres 非常适合代理时代,并构建在开放数据湖之上。
Apache Spark Structured Streaming 的十年:我们如何演进架构以满足现实需求
Structured Streaming 支撑着 Databricks 每周数百万个作业。它采用独特的微批处理架构,与其他设计相比,具有可扩展性、容错性和精确一次语义的优势。然而,Structured Streaming 需要许多新的创新才能满足现实客户的需求,并达到如今的规模。Siying Dong 将介绍流处理架构多年来的演进——微批流水线使吞吐量提高了 3 倍,新的有状态 API 使复杂业务逻辑的表达变得容易,系统现在支持细粒度访问控制。
AutoLiquid:Databricks Lakehouse 的自主数据布局优化
按键聚簇表可以显著提高查询性能。然而,手动在数百万个 lakehouse 表中选择最佳聚簇键无法扩展。Yunjia Zhang 将描述 AutoLiquid 如何通过简单的 CLUSTER BY AUTO 原语自动化这一生命周期。AutoLiquid 结合了启发式键选择与高效的影子验证,以聚簇数百万张表。利用这些技术,AutoLiquid 在评估的超过 95% 的工作负载中能够胜过客户选择的键。
Ultron:Databricks 中基于历史的查询优化
如果优化器对数据有近乎完美的了解,Lakehouse 查询的延迟可以显著提高。Ultron 是一个基于历史的查询优化框架,利用分析工作负载的重复性来改进优化器选择,例如选择连接操作符的类型。Eric Liang 将描述 Ultron 的架构,包括它如何高效地存储历史并管理已执行查询的日志。Ultron 显著提高了生产工作负载的性能,包括将中间连接延迟提高了 25%。
除了这四篇论文,欢迎来观看 Yuhong Chen 演示我们的增量视图维护引擎 Enzyme,它用于数据工程工作负载。
面向代理的原生数据基础设施:LakehouseRT、Lakebase 和 LTAP(赞助商演讲) Databricks 是 VLDB 2026 的黄金赞助商。Ippokratis Pandis 将发表 Databricks 赞助商演讲,描述 Databricks 如何演进其系统架构以适应自主、代理循环。基于此,我们将介绍 LakehouseRT。LakehouseRT 由新的 Reyden 引擎驱动,专为直接在开放湖存储上进行实时低延迟分析而设计。Lakebase 和 LakehouseRT 的结合为交付第一个真正的 Lake 事务分析处理(LTAP)系统奠定了基础。
在 VLDB 2026 与团队见面
欢迎到 Databricks 展位与我们的工程和研究团队交流,讨论我们的论文,并与我们的招聘人员交谈。
这篇内容对你有用吗?
反馈只用于改善内容筛选,不等同于收藏