克拉克拉(KilaKila)：大规模实时计算平台架构实战
一、产品背景：
克拉克拉（KilaKila）是国内专注二次元、主打年轻用户的娱乐互动内容社区软件。KilaKila推出互动语音直播、短视频配音、对话小说等功能，满足当下年轻用户个性化、碎片化的文娱需求。App用户等级体系作为克拉克拉社区化打造的核心业务，在增强社区活跃度、提高产品留存方面起到至关重要的作用。随着业务规模增长，海量用户行为日志实时采集与计算的瓶颈也日益突出，由于单台服务器的处理能力有限，海量数据分析需要分布式计算模型来替代。通过技术调研与架构选型，最终解决方案采用基于阿里云日志服务（Log Service）与 开源技术Storm为组合的基础架构。
二、实时日志采集：
LogHub 支持客户端、网页、协议、SDK/API等多种日志无损采集方式，所有采集方式均基于Restful API实现，除此之外也可以通过API/SDK实现新的采集方式。对于克拉克拉来说，业务日志会实时输出到本地服务器，通过在日志服务器部署Logtail，即可完成日志的无丢失采集。因业务场景不同，对日志可以根据不同的Topic进行分类，从而满足不同业务的个性化计算需求。此外，LogHup可通过配置自带的投递服务，将海量日志同步到数据仓库中永久存储。
图一：日志采集流程图
通过Logtail来采集Nginx上用户行为的日志到Logstore只需要简单配置相应日志所在的机器组和日志的绝对路径，其从日志落盘服务器到采集工作的完成控制在1秒内。同时Logstore支持多功能的日志检索服务，可以为后续明确用户行为提供快捷的查询服务。其中我们将不同topic的日志存储在不同的Logstore中，供后续不同业务有针对性的实时消费。
图二：克拉克拉topic日志结构图
图三：日志检索
三、实时业务场景：
为满足克拉克拉用户社区目标，该业务主要针对APP用户在直播、小说、视频三大业务线100多种行为场景下完成用户经验值的实时计算，也就是数据值的增删改查。在实时计算层，克拉克拉选择了Storm开源的分布式实时大数据处理框架，而阿里云日志服务对于Storm有着非常好的兼容与支持。
图四：克拉克拉实时计算框架
图五：LogHup 与 Storm关系
上图中红色虚线框中就是LogHub Storm Spout，每个Storm Topology会有一组Spout，同组内的Spout共同负责读取Logstore中全部数据。不同Topology中的Spout相互不干扰。每个Topology需要选择唯一的LogHub Consume Group名字来相互标识，同一 Topology内的Spout通过Consumer Library来完成负载均衡和自动failover。Spout从LogHub中实时读取数据之后，发送至Topology中的Bolt节点，定期保存消费完成位置作为checkpoint到LogHub服务端。
四、实时数据存储
克拉克拉实时计算框架中存在诸多数据缓存、永久存储等场景需求。面对该问题，克拉克拉采用了阿里云OTS组件方案。OTS也称为表格存储（Table Store）是阿里云自研的NoSQL多模型数据库，提供海量结构化数据存储以及快速的查询和分析服务。表格存储的分布式存储和强大的索引引擎能够提供PB级存储、千万TPS以及毫秒级延迟的服务能力。通过使用OTS所提供的Java SDK开发包实现了Storm计算过程中所涉及到的数据存储需求。
图六：克拉克拉OTS存储示例
五、项目总结
该项目以实时性和数据的精确度作为评判指标，所面临的挑战主要是用户行为的高并发，平均每秒百万级别的用户计算量；而针对不同的Logstore的日志处理量将会达到用户计算量的十倍左右。通过基于阿里云日志服务、OTS表格存储组件所搭建的克拉克拉实时计算平台综合能力表现良好，符合产品业务预期。
六、未来展望
以Storm为计算中心的框架虽可满足克拉克拉业务诉求，但相关项目研发效率还可进一步提升。对此，后续将重点调研阿里云另一个高效实时计算组件Blink。Blink 是阿里云实时计算方案，基于开源的Apache Flink。 该技术方案的最大亮点是通过SQL脚本语言来代替现有Java语言所开发的计算逻辑。从研发效率上来讲，SQL脚本更容易上手且运维成本更低，相信到时公司整体实时计算框架的性能将会得到显著的提升。
原文链接
本文为云栖社区原创内容，未经允许。
