关于人工智能:将AI推向边缘第二部分边缘AI实践和关键趋势

32次阅读

共计 4689 个字符,预计需要花费 12 分钟才能阅读完成。

与 ZEDEDA 的生态系统副总裁兼 LF Edge 董事会成员 Jason Shepherd 进行问答

在这个由两局部组成的问答系列的第一局部中,咱们重点介绍了下周公布的新的 LF Edge 分类以及边缘 AI 部署的一些要害思考。在这一部分中,咱们的问题转向了新呈现的用例和将来的要害趋势。

你认为边缘 AI 最有前途的用例是什么?

正如第一局部所强调的,在边缘部署 AI 的起因包含均衡可伸缩性、提早、带宽、自治、平安和隐衷等方面的需要。在一个完满的世界中,所有的解决都是集中的,然而这在实践中失败了,对 AI(和 ML)的需要只会随着设施和数据的数量而持续增长。

因为与流媒体视频相干的带宽,计算机视觉无疑是边缘 AI 的杀手级利用。利用人工智能“看到”事实世界中的事件的能力,为物体辨认、平安和安保、品质管制、预测性保护和合规监控等畛域的翻新提供了微小机会。

批发方面 – 计算机视觉解决方案将在实体店引入一波新的个性化服务浪潮,为员工提供以后客户的实时洞察,并更好地为长期营销决策提供信息。出于隐衷方面的思考,最后的重点将次要放在评估购物者的人口统计数据(如年龄、性别)和地位上,但咱们将越来越多地看到基于个人身份的个性化购物体验(通常是通过客户忠诚度打算触发的)。这包含一种新的“体验式”购物中心的趋势,顾客心愿在走进购物中心时放弃一些隐衷,以换取更好的体验。

亚马逊的 Go 商店引领了自主购物环境的潮流,而电脑视觉反对的自助服务亭的应用总体上也在迅速增长。思考到最近 COVID-19 带来的衰弱问题,供应商正迅速转向利用手势管制使这些解决方案非接触式,而不是须要与键盘或触摸屏交互。

计算机视觉用例通常会利用传感器交融,例如应用为批发库存治理和销售点(point of sale,POS)零碎的决策提供附加上下文的条形码扫描或射频辨认(radio-frequency identification,RFID)技术。摄像头能够分辨出 T 恤和电视的区别,但分辨不出同一件衬衫设计的大码和中码的区别。不过,或者最终人工智能模型将可能通知你,你的穿衣品尝是否很差!

另一个受害于计算机视觉的要害垂直畛域是医疗保健。咱们在 ZEDEDA 与一家寰球供应商单干,在他们的医疗成像机器中利用人工智能模型,这些机器位于医院内,并作为托管服务提供。在这种状况下,服务提供商并不领有部署其机器的网络,因而他们须要一个零信赖的平安模型,以及适当的工具来安顿他们的硬件和软件更新。

带宽驱动的物联网边缘部署 AI 需要的另一个例子是振动剖析,它是预测性保护等用例的一部分。在这里,采样率通常至多为 1KHz,能够减少到 8 -10KHz 甚至更高,因为这些更高的分辨率进步了对行将产生的机器故障的可见性。这代表了大量的连续流数据,这些数据的老本太高,无奈间接发送到集中式数据中心进行剖析。相同,推断模型将通常部署在靠近机器的计算硬件上,以实时剖析振动数据,只回传突出行将产生的故障的事件。

预测保护剖析通常也将通过联合振动数据和温度和功率(电压和电流)的测量来利用传感器交融。计算机视觉也越来越多地用于这种用处,例如,旋转马达轴的轻微摆动能够用足够的相机分辨率检测到,加上热成像传感器能够测量。同时,我查看确认了电压和电流是不能用相机查看!

服务提供商边缘提供的边缘 AI 的一个例子是用于蜂窝汽车到所有(cellular vehicle-to-everything,C-V2X)的用例。只管诸如管制转向和制动之类的提早要害型工作负载将始终在车辆外部运行,但服务提供商将利用部署在公共基础设施内 5G 网络中小型蜂窝左近的计算机上部署的 AI 模型来提供信息娱乐、加强事实技术,以实现车辆平视 显示和协调流量。对于后者,这些人工智能模型能够在交叉路口正告两辆汽车它们正在靠近潜在危险的状况,甚至能够通过智能手机揭示左近的行人。随着咱们持续在反对互操作性的根底框架上进行单干,越来越多的传感器交融将成为可能,将不同边缘节点之间的智能连接起来,从而推动更理智的决策。

咱们也转向边缘解决,以最小化数据挪动和爱护隐衷。当人工智能推断模型在受限连贯产品或医疗保健可穿戴设施中应用时,咱们能够训练部分推断模型在数据被发送到集中地位进行更深入分析之前对 PII 进行编校。

在减速采纳边缘 AI 的过程中,波及到哪些不同的利益相关者?

边缘 AI 须要许多不同行业的玩家共同努力。咱们须要硬件 OEM 和硅供应商进行解决;云计算提供工具和数据集;治理电信公司的连接件;帮忙框架和 AI 模型产品化的软件供应商;开发特定行业模型的畛域专家系统集成商,以及确保流程平安的平安供应商。

除了领有适合的利益相关者,它还波及到建设一个基于通用的、凋谢的互操作性框架的生态系统,并将投资重点放在附加的价值上。明天,平台和人工智能工具集的抉择过多,这令人困惑,但这更多的是市场的状态,而不是必要的。像 LF Edge 的一个关键点是在开源社区建设工作更加凋谢、可互操作的、统一的和可信的基础设施和应用程序框架开发人员和最终用户能够关注四周的增值。在整个技术历史中,开放式互操作性始终在规模化方面胜过专有策略。

从久远来看,最胜利的数字转型致力将由领有最好畛域常识、算法、应用程序和服务的组织来领导,而不是那些从新发明根底管道的组织。这就是为什么开源软件曾经成为各种规模企业的要害推动者 – 通过共享技术投资促成理论规范的创立,并将“无差别的沉重工作”最小化。它还推动互操作性,这是通过相互连接的生态系统在长期内实现最大商业后劲的要害……但这话题是不久的未来的另一个博客!

从久远来看,人们如何应用 AI 做区别化?

随着工夫的推移,人工智能软件框架将作为根底基础设施的一部分变得更加标准化,而算法、畛域常识和服务将是开发者持续进行有意义的辨别的中央。咱们将看到用于常见工作的人工智能模型 – 例如评估房间里的人口统计、检测车牌号码、辨认人、树、自行车和水瓶等常见物体 – 随着工夫的推移,这些模型将成为商品。与此同时,针对特定行业背景(例如制作品质管制的特定整机几何形态)编程将是一直减少价值的中央。畛域常识将永远是任何供应商提供的最重要的方面之一。

使边缘 AI 大规模可行还有哪些其余先决条件?

除了领有适合的生态系统,包含可能整合解决方案的领域专家,边缘 AI 胜利的一个关键因素是对计算和 AI 工具都有一个统一的交付或编排机制。事实是,到目前为止,许多边缘人工智能解决方案都只是实验室试验或无限的现场试验,还没有大规模部署和测试。

与此同时,当组织开始在该畛域扩大其解决方案时,他们很快就会意识到挑战。从咱们在 ZEDEDA 的教训来看,咱们统一认为,应用强力脚本和命令行接口(command-line interface,CLI)交互手动部署边缘计算对于散布在 50 个左右的节点上的客户来说老本太高了。为了扩充规模,企业须要构建一种协调解决方案,思考到分布式物联网在多样性、资源束缚和安全性方面的独特需要,并帮忙管理人员、开发人员和数据科学家亲密关注他们在该畛域的部署。这包含对可能导致不精确剖析或彻底失败的任何潜在问题的可见性。此外,重要的是,这个根底是基于一个凋谢的模型,以便从久远来看最大限度地施展后劲。

边缘 AI 的趋势是什么?

到目前为止,很多对于人工智能在边缘的摸索都集中在推理模型上 – 在这些算法通过云的可伸缩计算训练后部署。(附注:对于那些喜爱体育的人,能够将训练与推理类比为教练与较量。)

与此同时,咱们开始看到培训甚至联结学习有选择地转移到服务提供商和用户边缘。联邦学习是一个一直倒退的畛域,它寻求均衡扩散的益处,以爱护隐衷、自治、数据主权和带宽节俭,同时集中来自分布式数据区域的后果,以打消区域偏见。

该行业也在越来越多地开发专用硅,这种硅能够在小设施的功率和热束缚下提高效率,甚至反对训练或推理,这与将越来越多的人工智能工作负载推向边缘设施的趋势相一致。正因为如此,利用设备和应用程序编排工具是很重要的,这些工具对硅是齐全无感的,相比之下,来自硅制造商的报价心愿锁定你在他们的生态系统。

最初,咱们将看到随着“Tiny ML”的减少,边缘 AI 的下界逐步扩大到受限设施的边缘 – 部署针对高度受限、基于微控制器的设施优化的小型推理模型的实际。一个例子是 Amazon Echo 的“Hey Alexa”,它在本地被辨认,随后关上管道到基于云的服务器进行会话。这些渺小的 ML 算法将越来越多地用于对简略的语音和手势命令、常见的声音(如枪响或婴儿啼哭)进行部分剖析,评估地位和方向、环境条件、生命体征等等。

为了大规模地治理所有这些复杂性,咱们将重大依赖于行业标准化,这将帮忙咱们关注公共构建块之上的价值。开源的人工智能互操作性我的项目,如 ONNX,在帮忙业界围绕一种格局联结起来方面显示了微小的心愿,这样其他人就能够专一于开发和跨框架、从云到边缘的模型挪动。Linux 基金会的 Trust over IP 工作和新兴的 Alvarium 我的项目也将帮忙简化将可信数据从设施传输到应用程序的过程。遍及数据信赖的概念将导致我所说的“Holy Grail of Digital”– 向你甚至不意识的人销售和 / 或分享数据资源和服务。这就是规模!

总结

随着人工智能边缘畛域的倒退,重要的是要防止被局限于特定的工具集,而应该抉择构建一个经得起将来挑战的基础设施,以适应疾速变动的技术环境,并在你将业务与其余生态系统相互连接时可能扩充规模。咱们在 ZEDEDA 的使命是为企业提供在物联网边缘部署工作负载的最优解决方案,而传统的数据中心解决方案并不实用。咱们基于一种凋谢的、与供应商中立的模型,为硬件、人工智能框架、应用程序和云提供自由选择。咱们甚至正在集成次要的云平台,如微软 Azure,以加强他们的数据服务。

如果你有趣味理解 ZEDEDA 的编排解决方案如何帮忙你在物联网的前沿部署人工智能,同时放弃你对将来的抉择凋谢,请分割咱们。咱们也欢送你退出咱们,在 LF Edge 托管的 EVE 我的项目做奉献,EVE 我的项目是咱们商业云服务的开源根底。EVE 社区的指标是构建“物联网边缘的 Android”,它能够作为物联网边缘计算的通用形象层 – 在分布式计算资源上平安地部署任何工作负载所须要的惟一根底。为此,EVE 我的项目的要害下一步是将 Kubernetes 扩大到物联网边缘,同时思考平安数据中心之外部署计算资源的独特需要。

人工智能的整体胜利,特地是边缘人工智能的胜利,须要咱们协同单干,以推动行业向前倒退,同时爱护咱们防止潜在的误用。技术的将来是对于在无差别管道上的凋谢单干,这样咱们就能够专一于价值,并建设越来越互相关联的生态系统,从而驱动新的后果和支出流。正如一位政治人物的名言:“it takes a village!”

点击浏览网站原文。


为边缘计算构建一个开源框架。

LF Edge 是一个伞形组织,旨在建设一个凋谢的、可互操作的框架,用于独立于硬件、硅、云或操作系统的边缘计算。通过将业界首领汇集在一起,LF Edge 将为硬件和软件规范以及最佳实际创立一个独特的框架,这对维持以后和将来几代物联网和边缘计算设施至关重要。

咱们正在促成工业制作、城市和政府、能源、交通、批发、家庭和修建自动化、汽车、物流和医疗保健等多个行业的单干和翻新,所有这些都将通过边缘计算失去扭转。


Linux 基金会是非营利性组织,是技术生态系统的重要组成部分。
Linux 基金会通过提供财务和智力资源、基础设施、服务、流动以及培训来反对创立永续开源生态系统。在共享技术的创立中,Linux 基金会及其我的项目通过共同努力造成了不凡胜利的投资。扫描二维码关注 LFAPAC 微信公众号。

正文完
 0