Malachyte用实时AI重塑零售推荐，破解冷启动难题

数据分析

Malachyte如何利用托管实时AI解决零售业的冷启动问题

2026年8月10日

Sidd Motwani

Malachyte首席执行官

Vicki Boykis

Malachyte资深机器学习工程师

立即试用Gemini Enterprise

工作场所AI的前门

立即尝试

向不太了解的用户推荐产品的最佳方式是什么？

我们整个职业生涯都在为Spotify和Priceline等大公司解决这个问题，这也是Sidd创立Malachyte（一个AI驱动的电子商务推荐平台）的原因。如今，消费者期望看到个性化和相关的内容，争夺他们注意力的在线服务别无选择，只能将这件事做得特别出色。

Malachyte的灵感来自于一些独特的见解，即先进的AI模型，尤其是大型语言模型，如何以新的方式应用于个性化和推荐等老问题。

随着Malachyte开始赢得潜在客户的业务，我们需要安全、可扩展、可靠且最重要的是领先的AI基础设施，以继续构建我们一直设想的个性化算法。通过利用Google Cloud工具，如Bigtable和Apache Kafka托管服务，Malachyte已经能够帮助其一些零售商将销售额翻倍，有时甚至翻三倍。这就是我们如何构建它的故事，以及任何创始人如何使用这样的服务以新的方式开始部署AI基础模型。

Malachyte如何提升其用户的销售额

对于Malachyte来说，顿悟时刻是发现可以使用具有注意力机制的神经网络——即支撑大型语言模型的同一概念——来实现零售搜索和产品页面的个性化。这种方法使LLM能够从序列中项目的相对顺序中提取含义，在这里指的是句子中单词和音节的顺序。对于零售网站或应用程序，Malachyte想要捕捉的是客户与网站交互的序列。

https://storage.googleapis.com/gweb-cloudblog-publish/images/1_-_Malachyte_blog_.max-2200x2200.png

一个预GPT的语言模型可能会尝试查看特定的词序列甚至词片段（我们现在称之为令牌），但这些早期模型不会检查如果单词以相似的顺序排列但不是连续的或被重新排列会发生什么。突破——部分通过Google在transformer上的工作——发生在LLM获得了理解序列中复杂和长距离依赖的能力时。

这种更复杂的方法带来了显著的成果——既促进了生成式AI的普及，也促进了Malachyte对该技术的应用。

为了在实践中实现这一点，Malachyte在访客到达网站时创建了一个包含所有已知信息的向量。大多数用户是第一次访问，因此对他们知之甚少。这就是所谓的“冷启动”问题。诀窍是利用与用户的每一次交互来完善这个向量。向量的每次新增，如点击或查询，都会做两件事：它驱动对用户下一步想要什么的预测，并提供更多关于用户的信息。

然后，Malachyte的平台同时更新用户向量和预测。这不仅增强了对单个用户及其偏好的理解，还通过匿名用户数据改进整体模型。每次推理，平均购物者和特定购物者的背景信息都在增长。

此外，公司进一步创新，不仅使用基于注意力的神经网络，还结合每100毫秒更新一次用户配置文件。

https://storage.googleapis.com/gweb-cloudblog-publish/images/2_-_Malachyte_Blog.max-2200x2200.png

诚然，这个想法本身并不新鲜。零售商长期以来一直使用协同过滤推荐系统来识别相似用户和项目，这需要大量的交互历史数据。这些模型通常需要大量数据，包括基于第三方cookie的配置文件和人统计信息。

通过关注会话中的交互序列，零售商可以实现比仅关注用户配置文件更高程度的个性化——所需数据更少或支出更少。作为额外的好处，零售商现在可以通过不依赖长期cookie数据来为用户提供更多隐私。

这是可行的，因为模型结构和多模态向量对用户的所有已知信息进行编码，包括浏览器数据、点击历史和搜索。输出也是多模态的：同一模型可以应用于站内搜索页面、产品页面、分类页面和加入购物车轮播。

为了实现这一点，目录中的每个产品都被嵌入到与用户向量相同的空间中，该向量会不断更新，并随后将向量移近相关产品、远离不相关产品。计算嵌入的神经网络在Malachyte合作的零售商之间持续训练，为所有人提高质量。该系统实际上成为一个数据合作社，每个零售商的用户帮助使模型对每个人都更智能。

https://storage.googleapis.com/gweb-cloudblog-publish/images/3_-_Malachyte_blog_vector_space_-_high_res.max-1400x1400.png

为了使每个用户在每次推理中都能在100毫秒内完成这一交付，Malachyte在构建于Google Cloud实时AI堆栈上发现了真正的优势。

为了在每次推理中为每位用户实现100毫秒的交付，Malachite发现基于Google Cloud的实时AI堆栈构建具有实际优势。

通过该系统，每个行为事件都流入托管式 Apache Kafka 集群。每个事件不会排队等待未来的训练任务，而是立即成为 Bigtable 中用户资料的更新。Kafka 集群使客户的前端能够持久化，因此用户会话信号快速传递，而无需担心它们如何融入用户向量。

Bigtable 使 Malachyte 的服务能够查找和更新正确的用户向量，并且它和 Kafka 的操作速度约为每步 10 毫秒，这使得整个推荐循环能够在不影响用户体验的情况下完成。

三层实时 AI 架构：零售商的网站、Malachyte 的 AI 模型和服务前端，以及上下文管理基础设施。

除了快速核心之外，第二层产品目录更新、库存信号和零售商特定维度数据使产品数据保持最新。这通过Cloud Pub/Sub流动，该服务提供全球可访问的 REST API，使零售商无需深度集成工作即可建立连接。Malachyte 代理运行在Google Kubernetes Engine (GKE) 上，模型推理在Google Compute Engine(GCE) 上进行。

持续摄取外部数据（例如产品目录更新）通过 Pub/Sub 的全球消息传递系统进行。

通过迁移到 Google Cloud 的 AI 架构，Malachyte 证明了生产级 AI 推理和训练不仅仅是关于 GPU 和存储。它们需要实时持续学习基础设施，包括快速键值存储、流处理层和托管消息传递系统，所有这些都与基础模型架构集成。

这种方法还表明，即使是像 Malachyte 这样的小团队也能在行业中产生重大影响。它只需要访问强大的基础设施和核心 AI 托管服务。