共计 2848 个字符,预计需要花费 8 分钟才能阅读完成。
内容一览 :「2023 Meet TVM·北京站」于 6 月 17 日在中关村车库咖啡顺利举办,现场吸引了来自企业和高校的 150 余名参与者,大家进行了充沛热烈的探讨。
关键词:机器学习编译 2023 Meet TVM
本文首发自 HyperAI 超神经微信公众平台~
6 月 17 日,由 MLC.AI 及 HyperAI 超神经主办、OpenBayes 贝式计算协办的 2023 Meet TVM 第二站线下团聚圆满闭幕。
咱们很荣幸邀请到了来自上海交通大学、ARM China、地平线以及蔚来汽车的 7 位技术专家, 联合 AI 编译器在本身业务场景中的利用案例,为现场的敌人们带来了精彩的分享。
除北京本地的敌人外,还有多位来自天津、南京、杭州、上海等地的敌人退出,大家带着本身业务的疑难和挑战,在凝听技术分享之余,与同行进行了踊跃的交换和研究。
因为参会人数超出场地限度不少与会者只能站着听完分享
获取演讲 PPT 及现场视频
以下是流动内容简介以及现场的视频回顾。
关注微信公众号「HyperAI 超神经」,后盾回复关键字 TVM 北京,获取嘉宾残缺 PPT。
分享主题: 利用 MLC-LLM 把语言模型部署到任意设施
内容简介: 生成人工智能和大型语言模型 (LLM) 畛域获得了重大进展,它们具备卓越的能力和从根本上扭转许多畛域的后劲。目前,这些模型中的大多数都须要弱小的算力和内存要求,无奈部署在集体 PC、手机以及更小的端侧设施。MLC-LLM 通过编译技术,优化了运行速度和内存需要,使得端侧部署 LLMs 成为可能,为语言模型后续的倒退提供了新的基础设施。
现场视频:
https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333….
分享主题: TVM at ARM China
内容简介: 随着 AI 利用的蓬勃发展,各种 NPU 芯片被利用在边缘端设施上减速 AI 利用,如何疾速适配各机器学习框架及操作系统成为了难题。通过本身工具链与 TVM 的整合,ARM China 实现了图拆分, 主动异构执行等多个实用功能,帮忙客户疾速部署 AI 利用到 ARM China Zhouyi NPU 芯片上。
现场视频:
https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333….
分享主题: AI 异构编程及编译实际
内容简介: AI 芯片在朝着紧耦合异构的方向一直演进,芯片的可编程性和性能优化是业界始终在尝试解决的关键问题。本次分享次要针对 AI 编译优化、可编程性等方面介绍地平线的一些实际,并针对一些关键问题进行深刻探讨。
现场视频:
https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333….
分享主题: TVM at NIO
内容简介: 主动驾驶畛域是一个挑战与时机并存的畛域,随着产品的迭代和用户对驾驶体验越来越高的要求,常见的 AI 引擎无奈高效平安的撑持起简单的产品生产线。咱们基于 TVM 开发了 NIO 自研的 AI 编译器,解决了主动驾驶畛域中一些常见的问题,并造成了系统化的解决方案和技术架构。
来自蔚来汽车的孟通、陈曦(知乎 aaronxic)、王璐璐 3 位工程师,对其中波及到的技术和架构进行细节上的阐明。
现场视频:
https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333….
分享主题: 动静神经网络编译优化
内容简介: 动静神经网络与动态神经网络相比在准确性、计算效率和适应性方面显示出重要的劣势。然而,现有的深度学习框架和编译器次要集中于优化具备确定执行的动态网络,错过了动静网络中的优化机会。优化动静网络的要害是追踪其中的数据流动。此次分享具体介绍了咱们在动静神经网络编译方面的工作。
现场视频:
https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333….
退出 TVM 中文社区,解锁更多城市
继 3 月上海站及 6 月北京站后,咱们很开心能在不同的城市汇聚起关注 AI 编译器的工程师,为大家提供一个同行交换、互通有无的平台,本年度的第 3 场线下 Meetup,咱们打算于 9 月在深圳举办,届时欢送各位企业及社区搭档参加共创,一直壮大 TVM 中文社区的影响力!
此外,咱们也在踊跃招募 TVM 中文社区 contributor, 如果你想要成为咱们的一员,不要犹豫请随时增加微信 antonia0912,期待你的激情退出!
目前咱们在招募:
- TVM 中文文档翻译志愿者,确保中文文档与英文文档放弃同步,为更多心愿学习和理解 TVM 的工程师,提供基础设施(拜访官网:tvm.hyper.ai)!
- 流动志愿者,承当各地的流动组织、策动及执行工作,在全国多个互联网核心建设咱们的根据地。
- 答疑志愿者,相熟 TVM 并违心为社群中遇到问题的敌人奉献 insights 和 idea,帮大家解决技术问题。
2023 更多城市继续解锁中,退出咱们独特发明国内最沉闷的 AI 编译器社区!
最初来一张现场大合影 ❤️
主办方及合作伙伴简介
作为本次流动的主办方,MLC.AI 社区 (https://mlc.ai/) 成立于 2022 年 6 月,并由 Apache TVM 次要发明者、机器学习畛域驰名的青年学者陈天奇,率领团队上线了 MLC 线上课程,零碎介绍了机器学习编译的要害元素以及外围概念。
2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个残缺的 TVM 中文文档上线,并胜利托管至 HyperAI 超神经官网, 进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设施——文档。
2023 年,社区将在全国多所城市上线「2023 Meet TVM」系列流动,欢送企业及社区搭档参加共创。
MLC 线上课程: https://mlc.ai/
TVM 中文文档: https://tvm.hyper.ai/
HyperAI 超神经国内当先的人工智能及高性能计算社区,致力于为宽广国内开发者提供数据迷信畛域的优质公共资源, 截至目前已为 1200+ 公开数据集提供国内下载节点,反对 300+ 人工智能及高性能计算相干的词条查问,托管了残缺的 TVM 中文文档,并行将上线多个根底及风行教程。
拜访官网: https://hyper.ai/
OpenBayes 贝式计算是国内当先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加疾速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采纳。
拜访官网: https://openbayes.com/
车库咖啡是一个汇聚创业者的平台,以咖啡厅为依靠,为初创企业提供一站式投融资综合解决方案,帮忙我的项目方迅速融到资金,推动疾速倒退,同时提供守业辅导、资源对接、宣传报道等优质增值服务, 并帮忙投资人疾速发现好我的项目,为其领投、跟投、资源输入、教训输入等提供根据,推动多层次的投资人群体合作倒退。
本文首发自 HyperAI 超神经微信公众平台~