大数据技术在过去 10 多年中极大改变了企业对数据的存储、处理和分析方式。如今，大数据技术逐渐成熟，涵盖了计算、存储、数仓、数据集成、可视化、NOSQL、OLAP 分析、机器学习等丰富领域。在未来，大数据技术还会往引擎容器化、大数据机器学习、数据湖等方面不断延伸。
近日，腾讯大数据技术沙龙首站——Angel 专场在深圳举办，腾讯大数据团队详细披露了腾讯大数据十年发展历程，并全面展示了腾讯第三代全栈机器学习平台 Angel 在大模型数据训练、深度学习、图计算等方面的技术能力，也深入分享了在微信支付、效果广告、微众银行等场景上的应用案例。
会上，腾讯大数据负责人刘煜宏正式发布了“星火计划”，他表示：“在腾讯大数据十年的发展历程中, 我们不断追求技术创新, 集群数从 30 台到突破 35000 台。2016 年，我们打破了计算奥运会之称的 Sort Benchmark 4 项世界纪录，性能全球领先。腾讯大数据的发展从开源中受益，秉承着开放共享的精神, 今天我们也推出技术共享的‘星火计划’，希望能够助力和反哺大数据生态繁荣。”
腾讯大数据发展“三部曲”
作为大数据领域的前沿探索者，腾讯大数据从 2009 年开始, 经历离线计算、实时计算与机器学习三个阶段，在实践中积累了大量的经验。
据刘煜宏介绍，2009 年之前，腾讯主要使用传统的关系型数据库。2009 年开始，传统的单机数据库所提供的服务，在系统可扩展性、性价比方面已不再适用腾讯业务爆发式的增长。面对这种变化，腾讯大数据转向分布式，基于开源的 Hadoop 体系，构建了腾讯第一代大数据平台，并建设离线计算平台，主要发力规模化。腾讯大数据由此进入第一阶段。三年里，腾讯实现了从关系型数据库到自建大数据平台的全面迁移，到 2012 年，腾讯大数据的单集群规模突破了 4400 台。
2012 年，移动互联网爆发，应对业务数据统计及时性、快速性的需求，腾讯大数据从 Hadoop 转向 Spark 和 Storm 体系，在吸收开源技术的基础上，结合腾讯自身的需求进行重写，探索流式计算、秒级采集系统的建设，构建企业级的实时数据分析体系，腾讯大数据发展进入第二阶段。
2015 年至今，腾讯大数据迈入了第三阶段。随着数据挖掘、数据应用的深入，腾讯大数据再次自我迭代，于 2016 年推出了自研机器学习平台 Angel，专攻复杂计算场景，可进行大规模的数据训练，支撑内容推荐、广告推荐等 AI 应用场景。它由腾讯与北京大学联合研发，兼顾了工业界的高可用性和学术界的创新性。不仅支撑腾讯自身业务需求，在行业上也具有里程碑意义。
从海量业务中来，专注图计算场景
作为面向机器学习的第三代高性能计算平台，腾讯 Angel 在稀疏数据高维模型的训练上具有独特优势，擅长推荐模型和图网络模型相关领域。当前业界主流的大规模图计算系统主要有 Facebook 的 Big Graph、Power graph、Data bricks 的 Spark GraphX 等，但这些系统并不都支持图挖掘、图表示学习、图神经网络的三大类型算法。
据腾讯 Angel 开发负责人肖品介绍，腾讯 Angel 从腾讯海量业务场景中而来，是超大样本和超高维度的机器学习平台。从性能上来看，Angel 优于现有图计算系统，能够支持十亿级节点、千亿级边的传统图挖掘算法，百亿边的图神经网络算法需求。它可运行于多任务集群以及公有云环境，具备高效容错恢复机制，也更容易支持新算法，同时，Angel 能够较好支持图挖掘、图表示、图神经网络算法，具备图学习的能力。
如今，Angel 已在 QQ、微信支付、腾讯广告、腾讯视频等腾讯旗下产品中广泛应用，并向微众银行等行业合作伙伴全面开放，普遍适用于智能推荐、金融风险评估等图计算业务场景。
到开源中去，积极贡献社区
发布仅一年时间，2017 年，腾讯 Angel 就正式开源。2018 年 8 月，腾讯将 Angel 捐赠给 Linux 旗下专注人工智能的 LF AI 基金会，结合基金会成熟的运营，全面升级的 Angel 与国际开源社区深入互动，致力于让机器学习技术更易于上手研究及应用。
“Angel 在 2018 年加入 LF AI 基金会进行孵化后，一直按照开源社区的模式进行运营，增长速度非常快，增加了特征工程、自动机器学习等很多新的功能，在 Github 上增加了超过 2000 个 Star。”Linux Foundation APAC 大中华区总监杨轩表示：“Angel 是 LF AI 基金会下最活跃的项目之一，相信不久的将来，Angel 将进入 LF AI 的顶级项目之列。”
目前，Angel 在 GitHub 上 Star 数已超过 5300，Fork 数超过 1300，总共有 39 位代码贡献者，提交了超过 2336 个 commit。
面向未来，大数据、AI 和云的深度融合
腾讯 Angel 在深度学习和图计算能力的演变，也与大数据的行业发展方向相契合。据刘煜宏介绍，未来，腾讯大数据将持续发力数据湖、批流统一（批量计算、流线计算的融合）、AI+ 大数据、云计算 + 大数据四个主要方向。
刘煜宏表示：“AI、云计算与大数据密不可分，Angel 从大数据平台到全栈机器学习平台的成长，也验证了这一行业方向。未来我们将把腾讯大数据的能力和技术，与 AI、与云做深度融合，进一步落地大数据的价值，更好的助力合作伙伴和用户。”
据了解，腾讯大数据星火计划是由腾讯发起、面向大数据爱好者的技术共享体系，基于腾讯大数据 10 年研发与运营经验，以社区开源、网络课程、线下沙龙、技术峰会等多种形式，充分开放腾讯十多年来在大数据领域的技术积累。本次 Angel 专场是星火计划的首次线下活动。