Sony LIV基于ClickHouse Cloud构建十亿行级实时流分析

当一场大型板球比赛进入最后一轮，或一场欧洲冠军联赛淘汰赛进入点球大战时，数百万人会拿起手机。流量毫无预警地飙升。对于像Sony LIV这样的流媒体平台来说，那一刻是终极考验。

Sony LIV于2013年推出，已发展成为印度领先的OTT平台之一，为数百万用户和设备提供体育直播、娱乐、原创内容、电影和电视节目。它以巨大的规模运营，尤其是在体育赛事直播期间，并发量和遥测数据量会在极短的时间内急剧上升。

除了视频传输，Sony LIV的数据和平台工程团队还负责提供基础设施，以了解平台上发生的一切，从单个用户的流媒体体验，到服务的运行状况，再到广告的表现。正如平台工程副总裁Vaibhav Gupta所说：“实时运营可见性和用户分析对业务至关重要。”

我们采访了Vaibhav，了解Sony LIV如何围绕ClickHouse Cloud重建他们的分析基础设施。“总体目标，”他说，“是构建一个云原生、实时、高度可扩展的数据平台，能够在大规模直播活动期间支持商业智能和运营决策。”

为批量处理而非直播活动设计的旧架构

在采用ClickHouse之前，Sony LIV的分析生态系统依赖于传统数据仓库系统、批处理管道、基于Elasticsearch的可观测性工作流、基于BigQuery的分析工作负载以及多个碎片化的遥测存储。Vaibhav说：“虽然这些系统在特定用例中有效，但随着规模扩大，我们面临了几个限制。”

首先是速度。正如Vaibhav所解释的，大多数管道都是为批处理分析而非超低延迟流式分析而优化的。“在体育赛事直播期间，运营团队需要在几秒钟内获得可见性，而不是几分钟，”他说。

成本也是一个日益关注的问题。随着遥测数据量攀升至每天数十亿事件，存储和查询成本“显著增加”，Vaibhav说，尤其是对于高基数可观测性工作负载和长期保留分析。

碎片化使得这两个问题更难解决。播放遥测、CDN指标、应用程序事件、点击流数据和广告技术事件都存储在不同的系统中。在直播活动期间拼凑出一个连贯的画面意味着要缓慢地从多个来源拼接数据，而且往往是在关键时刻过去之后。

与此同时，团队面临着重大的查询性能瓶颈。Vaibhav说，对大型遥测数据集进行临时分析查询变得越来越缓慢和昂贵，尤其是在流量高峰期。

还有体育直播流量本身，正如Vaibhav所说，它不像正常流量那样表现。“在一个三柱门、进球或重大比赛事件发生后，流量模式可能在几分钟内飙升数倍。现有系统难以高效扩展以适应这些模式。”

寻找一个万能的系统

团队知道他们需要一个更好的解决方案。他们评估了多个分析和可观测性平台，重点关注运营遥测和产品分析工作负载。

在关键要求中，Sony LIV需要在非常大的数据集上实现亚秒级查询响应时间，在直播活动期间实现高摄取吞吐量，在每天数十亿事件的情况下实现成本高效的存储，以及为运营仪表板提供近实时处理和查询。他们还希望有一个能够支持各种用例的统一数据平台，并且架构必须在不可预测的流量高峰期间水平扩展。

Vaibhav知道这对任何平台来说都是很多要求。“大多数系统在一两个方面很强，”他说，“但面对所有要求组合时就会很吃力。”

团队通过行业工程讨论、高规模可观测性用例、开源分析社区以及流式和遥测工程基准了解了ClickHouse Cloud。“ClickHouse因其架构和在大规模分析工作负载上的性能特征而脱颖而出，”Vaibhav回忆道。

Vaibhav说，查询性能是让它与众不同的第一点。“ClickHouse在大规模聚合和时间序列分析方面表现出卓越的性能，”他说。团队还被ClickHouse的高压缩比和列式存储模型所吸引，这有望显著改善存储经济性。

在实时分析方面，Vaibhav说：“它非常符合我们对运营仪表板和实时遥测分析的需求。”同时，该数据库的分布式架构符合Sony LIV对体育直播流量的扩展需求，其开放生态系统和集成灵活性对他们的工程团队来说是强大的优势。

也许最重要的是，Vaibhav补充道，“它让我们能够将多个分析工作负载整合到一个更统一的平台中”，为团队提供了共享的数据基础，并提供了一个查询所有工作负载的单一位置。

统一、实时的分析架构

迁移到ClickHouse彻底改变了Sony LIV的架构。旧系统是一个运营复杂的遥测系统、批处理管道、存储系统以及针对不同团队的不同查询引擎的拼凑体，而新架构，Vaibhav说，“明显更加实时和集中化。”

在索尼 LIV 基于 ClickHouse 的架构中，客户端 SDK、流媒体服务、CDN 基础设施和广告系统都汇入基于 Amazon Kinesis 构建的事件流管道。从那里，通过 ClickPipes 的实时处理层将数据写入 ClickHouse 分析集群，该集群作为整个组织内运营仪表板、产品分析、QoE 系统和 SRE 工作流的单一事实来源。

如今，ClickHouse 支持广泛的分析用例。在流媒体方面，团队运行播放 QoE 分析、启动延迟分析、缓冲分析和设备级遥测。CDN 性能分析让运营团队能够了解内容在各地区的分发情况。实时运营仪表板即时发现问题。点击流和用户参与分析为产品决策提供信息。广告事件分析支持广告技术团队。当出现问题时，SRE 团队使用 ClickHouse 进行事件排查。"我们还在将 ClickHouse 更深入地集成到可观测性和预测性运营工作流中，"Vaibhav 补充道，更多用例已在规划中。

更快的答案、更好的可见性、更低的成本

自从迁移到 ClickHouse 以来，索尼 LIV 在分析查询延迟方面取得了巨大改进，尤其是在高容量遥测数据集上。旧系统中需要几十秒到几分钟的查询现在在亚秒到低个位数秒内完成。"这大大提高了现场活动期间的运营响应能力，"Vaibhav 说。

更好的查询性能带来了实时可见性的显著提升。运营团队现在可以实时了解播放故障、缓冲峰值、区域降级、设备特定问题和 CDN 异常。"这直接改善了事件响应工作流，"Vaibhav 说。

另一个主要优势是成本优化。Vaibhav 表示，ClickHouse 的压缩效率、列式存储模型和优化的计算使用"显著提高了整体分析基础设施的效率……特别是对于高保留率的遥测工作负载，存储经济性相比早期系统有了实质性改善。"

运营效率也得到了提升。SRE、产品、流媒体工程、分析和广告技术团队现在基于更统一的数据集和仪表板工作。"这减少了运营碎片化并改善了协作，"Vaibhav 说。具体针对工程团队，他补充道，"它提高了生产力，因为团队花在等待分析上的时间更少，而更多时间用于根据洞察采取行动。"

最后，该平台现在能够以应有的方式处理实时体育流量。大型锦标赛期间的大流量峰值和高并发流媒体事件，以前会给技术栈带来压力，现在可以轻松处理。正如 Vaibhav 所说，"更快的可见性直接转化为更好的观众体验和更高的平台可靠性。"

索尼 LIV 和 ClickHouse 的下一步

围绕 ClickHouse 的重建已经改变了索尼 LIV 的分析基础设施。未来的路线图更加雄心勃勃，ClickHouse 将继续在团队构建完全智能化、实时数据平台的努力中发挥关键作用。

如今，该路线图包括构建更广泛的内部点击流和行为分析平台，以 ClickHouse 为基础，统一查看服务中的用户行为。团队还在研究预测性自动扩展模型，利用历史流量模式和实时遥测数据，在主要体育赛事的需求到来之前进行预测，而不是在流量峰值到来后才做出反应。

路线图上的其他项目包括：通过更丰富的实时流媒体智能和播放质量监控深化 QoE 分析；现代化并扩展跨基础设施、应用、CDN 和视频管道的运营可观测性用例；改进实时广告投放可见性和变现分析；以及使用大规模遥测数据集进行异常检测和运营智能。

"ClickHouse 已成为我们实时分析和可观测性现代化之旅的基础层，"Vaibhav 说。"我们的长期愿景是构建一个高度智能、实时、云原生的分析平台，能够支持下一代大规模 OTT 流媒体运营。"