Databricks推出Adaptive Instructed-Retriever，搜索延迟降低2倍

高效的企业数据代理需要既准确又快速的搜索。今年早些时候，我们发布了Instructed-Retriever-1，这是一个检索模型，可以整合企业数据模式和自定义指令，同时利用并行测试时扩展来提高检索准确性和低延迟。这种单步搜索方法适用于大部分用户请求。然而，更复杂的多跳问题仍然可以从顺序搜索中受益，模型在多个步骤中迭代收集证据并完善查询——但代价是额外的延迟。

这就是我们引入自适应指令检索器的原因，它结合了并行检索的速度和顺序搜索的性能，同时保持严格的成本和延迟保证。目标很简单：仅在有用时才花费额外的搜索步骤。这也是Genie Code，Databricks的数据代理面临的相同检索效率问题：它必须在一个大型且不断变化的工作空间中快速找到合适的表格、笔记本、仪表板和文档，而不浪费在暴力探索上。自适应指令检索器专为这个检索层设计，当证据明确时能快速返回，仅当更难的请求需要时才使用顺序搜索。正如本文所示，训练后的模型在质量上匹配领先的第三方模型，延迟低2倍，并在我们的检索基准上显著改进单步搜索。

为了构建自适应指令检索器，我们对顺序步骤的数量设定固定上限，并训练代理自适应地决定每个用户请求所需的计算量。当已找到充分证据时，代理提前停止并返回相关证据；当额外的搜索可能提高检索质量时，它可以在步骤限制内继续搜索。

训练自适应指令检索器

为了更好地平衡检索质量和顺序扩展的延迟成本，我们训练了自适应指令检索器——一个支持并行单步检索和顺序搜索的小型自定义模型，同时以显著低于领先第三方模型的延迟运行。我们在混合的自定义企业检索和公共检索基准上评估该模型，包括受益于多跳推理的任务。在这些基准上，自适应指令检索器实现了与领先第三方和开源模型相当的性能，同时提供2倍的更低延迟。

为了准备训练数据，我们依赖合成企业检索环境和类似于Instructed-Retriever-1的代理式数据合成过程，并发表在KARL报告中。我们重用Instructed-Retriever-1的现有训练数据，以保留模型进行快速并行单步搜索的能力，并额外引入从多个代理式搜索步骤中受益更多的合成多跳问题。

从基础模型开始，我们使用在线强化学习（ORL）来训练模型，仅在可能提高最终性能时采取额外的搜索步骤。具体来说，我们使用CISPO（裁剪重要性采样策略优化）对模型进行端到端优化，采用平衡轨迹质量和搜索成本的奖励设计：模型因高质量轨迹而获得奖励，同时因未带来相应性能增益的额外搜索步骤而受到惩罚。

我们使用AI Runtime训练模型。AIR也可供Databricks客户使用，使这种方法对于为客户自身领域和工作负载开发专用模型非常实用。训练配方特意设计为轻量级：我们从预训练的基础模型开始，使用适量的合成数据来专门化其搜索行为。如图2所示，我们的轻量级方法能够很好地泛化到新的搜索任务和领域。

图2将自适应指令检索器与两个领先的第三方模型（Claude Sonnet 5和GPT-5.6 Luna）以及一个开源模型（DeepSeek-V4-Flash）进行比较。我们绘制每个模型的检索质量与平均端到端延迟的关系。浅色柱显示单步搜索的检索得分，深色柱显示多步搜索的结果，对照左轴（越高越好）；阴影柱显示端到端延迟，对照右轴（越低越好）。自适应指令检索器在匹配领先第三方和开源模型的性能的同时，仅需5.8秒响应，比Claude Sonnet 5、DeepSeek-V4-Flash或GPT-5.6 Luna快2倍以上。

用于定制质量-延迟权衡的在线强化学习

训练自适应指令检索器使我们能够通过调整ORL中使用的步骤惩罚幅度来选择质量-延迟权衡。因此，我们可以训练一组支持自适应指令检索器的检查点，并选择最适合生产工作负载的那个。

图3展示了通过扫描ORL训练期间惩罚的幅度，我们获得了一系列检查点，每个检查点在质量-延迟平面上落在不同的点上——y轴为得分（越高越好），x轴为端到端延迟（绘制为越快越靠右）。红色曲线将这些工作点连接成一条前沿：较轻的步惩罚允许模型采取更多步骤并达到更高得分，而较重的惩罚则减少其延迟。

训练后的自适应指令检索器模型的完整前沿优于其他替代方案。与未经训练的指令检索器基础模型相比，每个检查点在相似或更低延迟下提供更高质量，这表明收益来自学习何时搜索——以及何时不搜索。在前沿的顶部，我们的模型达到与其他领先模型相当的得分，同时速度快2倍以上。由于训练后的前沿包含具有不同权衡的检查点，我们可以选择最适合每个工作负载和预算的检查点——为交互使用偏好速度，或为更难的离线检索偏好质量。

自适应指令检索器制定更高效和更有针对性的搜索

我们展示了一些示例，比较替代方案和我们训练的自适应指令检索器模型的搜索策略。这些示例说明了自适应指令检索器如何在简单问题上高效搜索，并在更难的问题上更有效地利用其剩余搜索预算。

无需穷举搜索即可验证负面答案

自适应指令检索器比Sonnet提前一步、比Luna提前两步达到相同奖励。

问题：公司X是否明确将重组成本报告为FY2022损益表的行项目？

使用下一轮改变策略

自适应指令检索器学会调整搜索策略以提高召回率：从广泛发现转向有针对性的账户搜索。它以最少的步骤（与Sonnet并列）获得最高奖励。

问题：哪些客户正在使用或考虑使用LiteLLM代理？

结论

自适应指令检索器将先前发布的Instructed-Retriever-1从并行单步检索扩展到自适应多步搜索，使模型能够在复杂查询上花费额外搜索步骤，其中迭代推理和证据收集可以显著提高检索质量，同时在简单查询上提前返回以最小化延迟。这种自适应方法提供比单步搜索显著更强的检索性能，同时以2倍更低的延迟实现与领先第三方模型相当的性能。通过在线强化学习期间变化步惩罚，我们可以明确优化检索质量和推理成本之间的权衡，产生质量-延迟前沿上不同点的检查点，并选择最适合生产工作负载的工作点。

我们的贡献为Databricks中在大型、不断变化的工作区上操作的数据代理提供了实用的检索构建模块。诸如Genie Code、Genie One和Genie Agents等体验必须找到正确的表、笔记本、仪表板和文档，而不花费过多时间和精力进行深度探索。自适应指令检索器为这种设置提供有界策略：在常见查找上快速，在困难发现任务上彻底，并可在产品延迟预算内控制。更广泛地说，这些结果说明了小型专用模型即使对于需要多步推理的任务也具有竞争力。DatabricksAIR允许我们的客户为其自己的领域和性能要求定制专用模型。