关于负载均衡:对话火山引擎侯爽字节原生的边缘云

编者按：绝对于集中式的数据中心，建设边缘节点要面临的基础设施更加多样简单，而边缘云承载的业务需要也更加离散，找到一条衰弱可继续的边缘云业务倒退门路将会是个微小挑战。作为火山引擎边缘云负责人，侯爽具体分享了如何利用字节跳动的业务劣势，数据驱动，联结泛滥的合作伙伴实现这个高难度的工作。
策动 / LiveVideoStack

对于字节跳动，仿佛任何问题都能够用数据驱动来解决。和侯爽交换后，再次粗浅地感触到这一点。数据驱动不仅能够让好作品中转指标受众，还能让广告主取得更高的 ROI。让好作品中转指标受众，对于火山引擎的边缘云业务也十分要害。“咱们有一套十分强的数据模型去驱动基础设施建设。比方，站在抖音业务看，咱们晓得全网散布，晓得哪个中央体验比拟差，哪个中央体验比拟好。咱们晓得从何动手去晋升用户体验，同时兼顾老本”，火山引擎边缘云负责人侯爽通知 LiveVideoStack。正是有了弱小的数据模型，边缘云业务能够持重、高效地倒退，防止自觉投入。在字节跳动以视频业务为主线带动下，边缘云业务有了较多教训积攒。
但这并不意味着一帆风顺。

1. 积攒与翻新

火山引擎边缘云的劣势能够总结为几个关键词：规模弹性、边缘云原生、技术创新、内外对立。“火山引擎是从字节跳动成长进去的，很大的一个特点就是能够内外复用，根底技术有很长时间的规模化磨炼，在边缘云侧也是如此”，侯爽示意，字节跳动海量的业务需要，让火山引擎一开始就领有了很高的起步规模。同时，火山引擎在边缘侧采纳云原生的技术计划，开源的云原生生态比较完善，能够解决可观测、可运维、多云交融等问题，这些原本就是构建边缘基础设施的痛点。就这样，字节原生的边缘云基础设施，通过春晚、“618”、“双 11”这样大规模流量洪峰场景的海量验证，这些教训将为火山引擎对外服务客户，提供更好的技术架构与实际案例。

火山引擎边缘云的疾速倒退得益于字节跳动集中而海量的业务需要，但在新场景、新行业仍需冲破。例如边缘云正在向汽车、金融、工业、能源等更多行业浸透，绝对于泛互联网业务而言，既“小”又简单。

“在泛互联网行业，音视频就是刚需，对基础设施降本和利用体验优化的需要都会带来大量的边缘利用。但在其余新兴行业尚处在晚期，尽管咱们在辅助驾驶、工业互联网畛域有了一些落地场景，但还须要缓缓摸索。”侯爽示意。

对于火山引擎边缘云，他有着苏醒的意识，侯爽坦言，如何渗透到更多新的行业，除了 know-how，对新场景、新业务的了解和冲破也是接下来火山引擎要去致力的方向。

2. 短期与长期

当被问及往年的指标时，侯爽示意，往年的外围是要全面夯实火山引擎边缘云产品与服务体系，做到从 1 到 100 的变质，真正让客户感触到火山引擎边缘云的外围价值，以及帮忙客户解决问题，减速企业的倒退与翻新。当然，侯爽和他的团队要做得不仅如此。“海内的潜在市场空间很大，边缘云基础设施和平安产品深度联合，和音视频产品的协同解决方案，帮忙更多客户“走进来”，是下阶段关注的重点。”

而谈到长期趋势，侯爽认为边缘云的将来能够概括为两个外围：更深交融、更广连贯。更深交融，是从纵向的维度看云边端交融，既包含云边端调度的一体化，也蕴含云边缘的数据一体化，还有云边端的运维一体化，云边端的平安一体化。“通过更深层次的交融，利用能力更加充分发挥边缘云的能力”。更广连贯则是从横向维度来看边缘云的倒退，“边缘云的一大个性是广域笼罩，这就意味着，在全世界范畴内，边缘云都须要建设更宽泛的连贯”，真正做到让“连贯与计算无处不在”。

在技术布局上，侯爽则谈到须要构建小型化、轻量化、集成化的技术架构体系，在无限的资源上，以更加灵便的产品解决方案满足各类业务的需要。同时要软硬一体优化，“兴许这是一个较长期的方向”，侯爽示意。

侯爽反复强调火山引擎是个后来者，有肯定劣势，但更多的应该向行业搭档去学习，“在产品技术层面与行业搭档有十分多互通、借鉴和交换。面向未来，大家一起构建有长期竞争力的差异化的解决方案。”

以下为对话侯爽实录：

LiveVideoStack：侯爽您好，这应该是 LiveVideoStack 第一次和您进行深刻交换，先和读者介绍一下本人和团队吧。

侯爽：我是 2015 年退出字节跳动，先后负责字节跳动视频中台架构、利用流量架构等业务和团队，现次要负责火山引擎边缘云产品与研发相干工作。
咱们团队次要有两个外围职责：首先是服务好外部业务，保障业务体验和服务效率。比方抖音要举办大型线上流动的时候，咱们是不是可能提供稳固牢靠的基础设施服务去承载海量洪峰业务，同时保障最低的老本和最高的效率。咱们的基础设施服务包含终端网络库、交融传输链路、海量边缘节点和数据中心服务。
其次，咱们通过火山引擎输入边缘云系列产品与解决方案，To B 对于火山引擎来说也还处于晚期阶段。第一，解决产品从无到有的问题，夯实标准化的产品与技术。目前，火山引擎边缘云已初步构建了“All IN ONE 边缘云原生计算平台、寰球一体化的内容散发网络、基于边缘网络原生的全域联网减速解决方案、可信的数字资产治理与智能解析调度体系”为主的四大产品矩阵；第二，构建交融的基础设施解决方案，晋升基础设施的规模弹性，包含推动业务内外对立，加大资源并池规模，以及与搭档供应商一起构建多云交融服务的模式，晋升资源供应效率和弹性；第三，既要看当初，也要看看远期的将来，要关注产品技术的变更、客户需要的演进、行业的疾速倒退。目前，边缘云业务正在从泛互联网行业向工业、能源、金融、汽车等多行业去浸透，那里既有很强的数字化转型的需要，也有全新的技术调整，构建场景化的解决方案也是咱们十分重要的摸索方向。

LiveVideoStack：在字节跳动这样的巨量业务和基础设施条件下，发展边缘云业务有哪些劣势？要面对哪些挑战？

侯爽：火山引擎是从字节跳动成长进去的，很大的一个特点就是能够内外复用，根底技术有很长时间的规模化磨炼，在边缘云侧也是如此。
首先，火山引擎边缘云的第一个外围劣势是规模弹性，借助字节跳动海量的业务需要，让咱们在基础设施层面有很高的起步规模，包含全网超过百 Tbps 带宽、百万异构算力的超大规模弹性资源池以及超低延时 1 -40ms 的业务场景与根底网络全笼罩；
第二，边缘云原生。作为后来者，咱们在边缘侧采纳云原生的技术计划，独创小型化、轻量化、集成化的边缘云原生操作系统，构建云网协同、云边协同、边边协同、多云协同能力；
第三，面向未来倒退的技术创新，比方 CPU/GPU/ARM All in One 的全新边缘异构计算实例以及交融链路减速、全域组网、边缘平安的寰球边缘一体化网络；
第四，内外对立，字节原生。边缘云基础设施产品通过了春晚、“618”、“双 11”这样大规模流量洪峰场景的海量验证，这些教训也帮忙咱们的客户，提供最佳技术架构与实际案例。
再说说挑战。首先，咱们要解决脱胎于字节业务的边缘云技术体系向行业标准化产品技术计划演进；第二，面对市场泛滥客户的简单场景需要，如何构建具备更强开放性和兼容性的产品技术生态，是咱们另一个思考的问题；第三，如何渗透到更多新的行业，除了 know-how，对新场景、新业务的了解和冲破也是接下来咱们要去致力的方向。

LiveVideoStack：如何定义边缘云以及它的外围价值？

侯爽：边缘云计算这个概念晚期起源于“把基础设施部署在边缘”，有了靠近二十多年的倒退历史，而就行业利用而言，大家对边缘云的解读各不相同，次要起因是行业依然在疾速倒退，短少标准化的定义。回到咱们本身，边缘云是云计算的一种状态，云边端的协同会是长期的演进趋势。2022 年火山引擎公布了边缘云系列产品，咱们定义的边缘云是以云原生技术为根底底座，交融了异构算力和边缘网络，构建在大规模边缘基础设施之上的云计算服务，造成了以边缘地位的计算、网络、存储、平安、智能为外围能力的新一代的分布式云解决方案；边缘云作为基础设施服务一个外围价值就是广域笼罩的接入与传输网络。无论是晚期音视频服务，还是云游戏云渲染、主动驾驶等，网络是必须的能力。随同网络的根底需要，会衍生出更多本地化数据计算、存储的需要，还须要配套的平安能力；从长期的趋势看，AI 能力在边缘侧的下沉，也是咱们的重点关注方向。“连贯与计算无处不在”是火山引擎边缘云的 Slogan，也是咱们的外围价值主张。
当然，作为后来者，咱们须要更多向行业搭档学习，在产品技术层面与行业搭档有十分多互通、借鉴和交换。面向未来，大家一起构建有长期竞争力的差异化的解决方案。”

LiveVideoStack：边缘云给 C 端用户带来的体验晋升或者最间接的感触是什么？

侯爽：字节跳动过来在音视频畛域的积攒比拟多，咱们的音视频产品及解决方案是构建在边缘云基础设施之上，包含根底 CDN、点播、直播、RTC 等服务，咱们在晚期的工作重点之一就是服务于音视频体验的优化。对于体验的外围包含几局部：第一，超低延时拜访。以抖音为例，用户能够在直播间与主播进行实时直播互动，这两年大火的直播健身、电商平台好物秒杀抢购、春晚、世界杯等大型节日流动互动等等，用户根本感触不到什么时延了；第二，沉迷式体验交互。过来加入明星演唱须要亲临现场前排观看能力取得较好的体验，当初躺在家里的沙发上戴着头显就能沉迷式观看，体验“私人”演唱会；第三，升高应用老本。通过交融架构、自研传输协定、编解码等算法的优化，帮忙用户升高产品应用老本，晋升拜访体验，同时可能缩小基础设施的资源老本耗费。
LiveVideoStack：往年的指标是什么？
侯爽：往年的外围是要全面夯实火山引擎边缘云产品与服务体系，做到从 1 到 100 的变质，全面推向市场，在 ToB 市场造成残缺的边缘云产品和解决方案认知，真正让客户感触到火山引擎边缘云的外围价值，以及帮忙咱们客户解决问题，减速企业的倒退与翻新。同时咱们心愿可能和行业搭档做更多的深度共创和协同，携手把边缘云这个赛道的产品解决方案做得更好，赋能于行业，服务好客户。

LiveVideoStack：可能撑持边缘云商业模式的要害业务场景有哪些？将来看好哪些行业或场景？

侯爽：从商业视角看，业务必定合乎二八法令。以后大部分需要来自音视频大赛道，包含点播、直播、RTC，以及像云游戏等新兴业务，这里既有网络需要，也有算力的需要。长期看还有很多不确定性，这是由边缘云倒退的个性决定的，边缘侧的需要比拟扩散，散布在不同行业，有各自不同的诉求。比方在泛互联网行业，音视频就是刚需，对基础设施降本和利用体验优化的需要都会带来大量的边缘利用。但在其余新兴行业都处在晚期。比方主动驾驶赛道才刚刚开始，尽管有一些利用，但还须要较长的周期能力走向成熟。传统工业行业数字化转型，必定不会那么快，客户线下的数据怎么样和线上的服务去做联合？是不是可能上云？怎么解决数据隔离安全性？推动的周期会十分长，产品解决方案很难实现疾速复制，须要缓缓摸索浸透。
更长期来看，除了存量的泛互联网赛道，在汽车、金融、工业、能源等怎么找到更大的突破口，这个问题可能也会随同着咱们将来几年倒退。

LiveVideoStack：包含冲破海内市场？

侯爽：从边缘云的角度看，海内是刚刚开始，须要找到一些确定性的驱动因素来帮忙咱们实现从 0 到 1 的构建，这些因素包含团体本身的需要、ToB 客户的出海衍生需要。海内的潜在市场空间很大，边缘云基础设施和平安产品深度联合，和音视频解决方案的协同解决方案，可能是下阶段关注的重点。当然，海内市场的竞争也会更加激励，怎么联合业务需要和本身外围劣势，找到海内业务倒退切实可行的施行门路，这会是在海内摸索的关键点。

LiveVideoStack：海内会抉择哪些地区冲破？

侯爽：短期聚焦在音视频畛域，东南亚能够作为一个切入点，人口、产业倒退阶段在肯定水平上能够施展咱们的劣势。比方，咱们在音视频能力上的积攒，可能帮忙客户在东南亚晋升商业化的效率，晋升用户的体验。

LiveVideoStack：您感觉在边缘云业务上，有没有一些技术能够让老本大幅升高，或者算力暴发，或者在某一方面给用户的体验带来质的变动？如果有的话，这些单点技术是什么？

侯爽：从技术的驱动力的角度可能分层看。底层基础设施，云原生技术可能帮忙咱们疾速构建基础设施产品和解决方案。绝对于传统技术体系，咱们作为后来者能够采纳最新的技术栈，免去了各种技术债的懊恼。云原生的开源生态比较完善，能够无效地解决基础设施的可运维、可观测、多云协同等各类问题，这些原本就是构建边缘基础设施的痛点。另外，边缘云产品面临的外围痛点之一就是资源异构，通用化的产品屏蔽底层的异构，必定是业务的首选；第二，边缘节点的规模小且扩散，在单个节点可能只有几台机器，须要同时解决计算、存储、网络的需要，和集中式的数据中心计划就会有很大的不同，在边缘节点侧，咱们须要构建小型化、轻量化、集成化的架构体系，在无限的资源上，以更加灵便的技术体系满足各类业务的需要；第三，软硬一体协同优化，从边缘云原生的技术体系到边缘节点的定制服务器的协同优化，兴许这是一个较长期的方向。

LiveVideoStack：如何预测异构算力将来在边缘侧的变动？包含 ARM、x86、ASIC 以及越来越多的 GPU？

侯爽：这个问题的外围是要想分明，抉择某个硬件和软件的生态所服务的业务场景是什么。其实，是规模。如果没有规模化的需要，很难谈收益。从集中式的数据中心来看，软硬一体的深度优化曾经十分成熟，包含自研研芯片与服务器、DPU 等。在边缘侧，目前业务需要扩散，行业也比拟扩散，很难通过某繁多场景驱动硬件规模化的倒退。过来，云游戏对 ARM 板卡有需要，但规模还没有那么大。即使是同样的云游戏的客户，不同的厂商对硬件抉择也不一样，有些用传统的计算实例，有些用高通的板卡，有些会应用 ARM 服务器实例，但规模都都会有肯定的限度。火山引擎会思考资源的长期使用率，在硬件抉择上会审慎一些。

LiveVideoStack：只管单个边缘节点的投入不大，但须要建设的数量要远远大于数据中心的数量，怎么更迷信的评估和建设边缘节点？

侯爽：基础设施的建设须要迷信谨严的 ROI 评估体系，要害要有数据撑持，这就与整个业务是非亲非故。数据中心承载的是算力存储密集型的业务，能够规模化的集中建设。而边缘侧有两个不同：首先，是业务利用特点的需要。以音视频散发为例，如果所有用户都连到数据中心，物理传输链路就十分长，无论传输算法优化、智能调度优化都不可能冲破物理链路的极限。所以，咱们就须要建设更广覆盖和更广散布的边缘节点；接下来，怎么样去建设？这会波及到业务需要、资源布局、物理选点、商务单干等方方面面。咱们有一套十分强的数据模型去驱动基础设施建设。以抖音业务为例，咱们晓得在兼顾老本的大背景下，如何去优化晋升用户体验。通过全网散布和用户体验反馈，晓得哪个中央体验好，哪个中央体验待晋升。比方，要在晋升某个地区体验，兴许咱们就须要有指标的加大本地服务节点的笼罩；第三，面向长期的前置投资。比方数据安全、算力下沉等需要。须要咱们做好调研剖析和预判，做到有节奏的策略投入。

LiveVideoStack：在您的察看中，将来几年边缘云会有怎么的倒退？

侯爽：边缘云的将来能够概括为两个外围：更深交融、更广连贯，这别离是从两个维度对边缘云倒退的思考。更深交融，是从纵向的维度，看边缘云的云边端交融，边缘云势必要在云边端的联动上更加严密。这包含，云边端调度的一体化，对云上资源、边上资源、端上资源的整体调度，蕴含云边缘的数据一体化，数据在端的采集，边和云的解决，提供一体化计划。还有云边端的运维一体化，云边端的平安一体化。通过这些更深层次的交融，利用能力更加充分发挥边缘云的能力；第二个发展趋势呢，是从横向维度来看边缘云的倒退，边缘云的一大个性是广域笼罩，这就意味着，在全世界范畴内，边缘云都须要建设更宽泛的连贯，从而助力企业的寰球数字化转型。将来，火山引擎边缘云将通过当先、可信赖的云和智能技术，帮忙寰球企业降本增效、减速翻新。

对于火山引擎边缘云：
火山引擎边缘云，以云原生技术为根底底座，交融异构算力和边缘网络，构建在大规模边缘基础设施之上的云计算服务，造成以边缘地位的计算、网络、存储、平安、智能为外围能力的新一代分布式云计算解决方案。