共计 6998 个字符,预计需要花费 18 分钟才能阅读完成。
大家好!我是爱吃、爱玩、更爱学习技术,IT 届的新晋网红,开发者的好敌人—比特熊!
大家看了《青春变形记》吗?特地廓清一下,并不是比特熊 Cosplay 当前的出演哦~
比特熊:3 月的故事汇请来的嘉宾大有来头!坐在咱们【比特熊直播间】的是我在 Pycon China 北京站结识的社区之星也是微软 MVP 团队里很受欢迎的李者璈老师;在线上直播间还有比特熊的好敌人 OpenVINO 中文社区的 Nono 介绍给我的英特尔的大咖,邵文简老师!
【比特熊故事汇】作为比特熊直播间的重要栏目,定期请来技术大牛和行业先锋做客。这里不仅讲最“热”的技术,还有更多待解锁的集体故事和趣味话题!请继续关注,更激励大家举荐你想意识的“英雄”。欢送大家来到直播间,跟比特熊一起,与专家们零距离畅聊。
欢送大家拜访 MSLearn 学习平台
https://aka.ms/DevMSLearn
与比特熊一起布局学习门路,减速进阶
李者璈
猫奴 / 特摄迷 / 大龄中二青年
▪微软 MVP –
Developer Technologies
▪太极图形资深工程师
善于:Python / SRE / Cloud Infra / Container
邵文简
写代码>跑步游览>其它
▪英特尔物联网视频事业部人工智能平台解决方案资深架构师和首席工程师
▪资深嵌入式平台研发教训
独家爆料
比特熊:再给各位走漏一个【比特熊故事汇】的独家爆料——李者璈老师心中的超级英雄是奥特曼!他可是看过奥特曼的全副系列!邵文简老师是否也有本人喜爱的英雄人物,咱们先请邵老师聊聊技术干货,彩蛋局部请仔细的小伙伴文中寻找!
邵文简:云计算、物计算、边缘计算、边缘联盟……最近很这些名词十分火,那边缘计算到底是什么呢?简略来说,边缘计算起到了一个承前启后的作用,把端侧的物联网设施和云端的核心网数据中心连接起来。
边缘计算的重要性能够从这组钻研数据中看出:45% 的数据会在边缘被存储、剖析和操作,43% 的人工智能工作产生在边缘设施上。这个报告是 2017 年的,预测到明年 2023 年,具备人工智能的边缘设施部署会有 15 倍的爆发性增长。
比特熊:邵文简老师总结了四个推动边缘计算倒退的因素,他专攻的智能视频边缘计算畛域很好地解释了这些需要的存在。
1、低提早的需要。当初很多小区都能主动对车牌辨认进行闸机的开关,但如果从摄像头拍到你的车牌,通过网络传到核心网,再到数据中心,和大量汇聚在此的数据一起进行排队,解决完再送回来,这个周期的延时可能会到十秒甚至几十秒,这在理论的利用中是齐全不能承受的。工业生产线上,机器视觉对延时的要求更高,基本上要在毫秒级,所以低延时的个性对很多视频利用十分重要的。
2、带宽老本。尽管当初 4G、5G 倒退很快,但视频数据还是太大了,视频的码率从 1Mbps 到甚至 4~10 Mbps,而当初曾经部署了 10 亿只 IP 相机,如果所有的数据都要会集到云端的话,随之而来的带宽老本在当初的技术和经营模式下是无奈接受的。
3、数据安全和个人隐私。大家越来越器重隐衷爱护了,人脸、车辆的影像都是重要信息,国家正在制订规范,要求波及到个人隐私的数据要在边缘计算,通过脱敏之后能力上传到云端进行下一步服务。
4、稳固连贯。我自身是学通信的,要在端到端实现稳固的视频连贯,并不容易。如果大家理解视频编解码,就晓得视频的数据其实是间断的,如果连贯不稳固,失落一帧就会导致间断丢几十帧甚至上百帧的数据。
下图以安防场景为例,展现了智能视频边缘计算的落地状况:
智能视频边缘计算在各个领域还有很多利用,比方基于人工智能的视频结构化,就是把视频外面所有咱们感兴趣的信息变成结构化数据库里的数据,对 AI 解决的要求十分高。
邵文简:咱们英特尔 OpenVINO 社区始终在为这个畛域做奉献,大家都晓得英特尔提供了多种多样的硬件产品,从凌动到酷睿到至强。咱们也有 FPGA 的产品和基于 VPU(视觉处理器)的视觉减速产品。通过英特尔提供的软件工具和软件开发包,就能把这些硬件产品和解决方案连接起来。
这里给大家介绍两个:Intel® Media SDK 和 OpenVINO。Media SDK 是一个高性能的视频编解码以及图像处理的软件工具,经验了很多年的倒退,往年要死于非命了,它的替代者 / 下一代叫 oneVPL,会在往年推出,效率比 Media SDK 更高,也根本放弃了 Media SDK 的编程和接口的格调。
OpenVINO 则是英特尔在人工智能方面用于疾速部署、减速 AI 推理工作负载的软件。下图是 OpenVINO 的根本工作模式,两个外围模块为模型优化器和推理引擎。
OpenVINO 从 2018 年到 2022 年经验了 4 年的倒退,OpenVINO 的 2022.1 版本也是咱们一个比拟大的 milestone,次要有以下新个性:
1、Open Model Zoo 反对了更多的域系列模型,减少了 33 个新的模型;简化了依赖库的治理;推出了全新的 API 2.0,跟支流 AI 编程形式统一。
2、晋升了兼容性,简化了 Model Optimizer 的参数,反对了 Dynamic input shape……间接反对 PaddlePaddle 模型。
3、部署上反对了将很多前解决的工作集成到模型中;反对 Auto Plugin;减少了性能配置提醒,比方能够在低延时和高吞吐量间抉择;优化 First Inference Latency。
2022.1 这一版本无论是生产效率还是兼容性、性能上都有很大的晋升,对中文社区、中国的人工智能用户来说都是极大的便当,心愿咱们宽广的社区用户和开发人们有机会能去 OpenVINO 网站下载和试用 OpenVINO。
比特熊:我曾经听入神了,方才有听到一些信息和坐在我身边的李者璈老师也有些关系,给李者璈老师一个特地机会,请您代表大家向邵文简老师发问。
李者璈:发问像推理或者深度学习这样的场景,边缘设施的治理或者模型的散发,一些管控面的货色,OpenVINO 有没有提供一套模型下发、灰度模型的开箱即用的计划。
邵文简:据我所知目前还没有,当初有一个利用叫 OpenVINO Model Server,它把一个网络的 Inference 做成一种 service,让其它的利用来调;开箱即用得看 OpenVINO 将来有没有打算提供这样的能力,这也须要去跟边缘的平台,尤其是基于 k8s 或 k3s 的平台进行集成。
李者璈:我还想打探一下,往年甚至阐明年 OpenVINO 还有什么其余的倒退方向?有什么能够走漏的吗?
邵文简:咱们之前推出了 Alder Lake 桌面版以及挪动版的最全新 CPU,它是业界第一个混合架构的 CPU。往年下半年还会公布下一代的至强服务器 Sapphire Rapids,有新的指令级 AMX(英特尔高级矩阵扩大),能够间接反对矩阵层了。我感觉 OpenVINO 的首要任务还是性能优化,对英特尔硬件的反对,把新架构的性能施展进去,进步兼容性。
李者璈:期待 OpenVINO 在新的至强服务器上跑起来是什么样的。
邵文简:略微走漏下哈,相对会有惊喜。
比特熊:好啦好啦,再问上来不会就要波及到商业秘密了吧!还是请李者璈老师分享点内容给大家吧!
李者璈:我的分享比起邵老师可能更普及化一些,大家不准笑也不准打我。我明天其实次要是想聊一聊 Python,把眼光放到 3.9,或者说近一年以来它的一些变动,比特熊你之前用过 Python 吗?
比特熊:本熊刚开始直播的时候,跟微软云步道师卢老师(卢建晖)一起进行过线上工作坊的学习,尽管只是短短几次课,也算有点初步理解。
李者璈:Python 当初会用在很多场合,比如说方才邵老师提到的深度学习,PyTorch 或 TensorFlow 等等,他们都会用 Python 来作为 DSL 的前端。同时 Python 在后端开发以及传统的 SRE 场景也有很多利用,像豆瓣以及之前的饿了么,还有已经的头条,都是用 Python 作为本人主力的服务,国外的话 Instagram、Reddit 这些网站也是。
到 2022 年,大家可能会有一些埋怨,比方写动静类型一时爽,而后重构全家 XXX,被老板骂死对吧?还有 Python 的性能不行,或者 Python 缺一些其余语言标配的货色。大家始终说 Python 是一个动静语言,表达力很丰盛,但同时很多方面又感觉不够欠缺。咱们把工夫放在到这一年来看,Python 次要还是围绕三方面语法个性的加强,规范库的加强以及性能改良,规范库的加强还蕴含了清理掉一些历史遗留债权。
语法改良我印象最粗浅的是 PEP,PEP(Python Enhancement Proposal)是加强提案的简称。634、635、636 这个 Python match(模式匹配)终于来了,依据不同的 400、404、418,返回不同的货色,不同的解决。在之前大家兴许只能用 if 或者 else 来模仿这样一个非凡的语法糖,那么在这三个 PEP 之后,也就是 3.10 之后,Python 就笑称终于有了 C 语言七几年就有的货色——switch case,大家可能感觉至于这么冲动吗?咱们能够看一下这个略微简单一点的例子:
相比于之前的各种分支上的 if/else 这样的货色可能很大水平上达成语义统一,也就是咱们能以近似人类语言,或者说合乎直觉的形式写代码,一眼就能看出这段代码在做什么,它还反对更简单的解构以及解析行为……之前引起 Python 社区决裂的一个提案叫做 PEP 572 的海象操作符……它能让咱们代码写得更灵便,但我集体感觉不要用得太嗨了,写进去太过于 magic 的代码,重构的时候会被共事、老板给打死。
PEP 612 提出了一个叫参数类型的非凡类型,咱们之前在应用 Decorate 装璜器的时候,去标注参数对象你可能不晓得怎么样去标注比拟好,可能每一个货色都要标注……
612 之后,咱们就有了 ParamSpec 这样一个非凡的货色,让咱们更不便地去应用 type hint,它是补救了 type hint 到 Python 之间之前和动静个性之间的鸿沟。第三点大家始终很关怀 Python 的性能,这是个老大难的问题,在一些须要高性能的场景,像方才邵老师介绍的 PyTorch 或 TensorFlow,还有像我当初的公司太极图形,咱们都会抉择用 Python 作为一个畛域的 DSL,额定接管它的一些 Runtime,做一些解决……在常见的工业场景,写一个 web 服务器,做一些 server,大家可能就会感觉 Python 在一些流量比拟大的状况下,之前我在饿了么 Python 是咱们的外围服务,Python 的确相比于 Go 之类的语言须要更多内存资源。有人会感觉,我用 Python 的时候不须要性能了,或者你都要性能了,为什么要用 Python?这两种认识都太极其了,咱们还是心愿达到一个均衡。
大家能看到我大部分的我的项目外面,保底 Python 根本都失去了 20%~25% 以上的性能晋升,而目前是没有引入 git 也没有去优化 GIL 性能的状况上来做。咱们能看到社区在这方面做了很多致力,我很期待 Python 在放弃性能和语法甜度的根底上越来越快,达到一个平衡点,这样的话让更多人用得更好。
比特熊:李者璈老师是怎么跟微软 MVP 结缘的,退出 MVP 后加入过什么样的流动?
李者璈:我很早之前就是一个软粉了,我梦中的笔记本就是 Surface Book 2。我理解到微软 MVP 我的项目是在我大学的时候,过后感觉很边远。在 15 年微软全面拥抱开源之后,我作为一个 Python 开发者,也的确感触到了微软的大力支持,比如说 VS Code Python 的作者,还有比如说像 Jupiter 的外围开发者,还有 Guido……爱屋及乌我就彻底成为一个软粉了。大家可能晓得,Cynthia 是 Reactor 当初的 manager,从 13 年到当初也是 PyCon China 的组织者,我在操办 PyCon China 的过程中,Cynthia 跟我说,你既然喜爱微软,又喜爱 Python,要不要去申请一下 MVP?我就试试了,第一次材料写得太简要被驳回了,第二次申请就过了,2020 年正式成为 MVP 啦。
比特熊:大家加入各种社区分享流动中,也很有可能遇到咱们的微软 MVP,大家想申请的话也能够向他们求教。留神申请材料不要写的太简要哦!李者璈老师说到学生时代,我想到之前看到介绍邵文简老师的一篇文章外面,提到邵老师从本科到博士,经验了通信工程、计算机、多媒体通信这几个不同的业余,从这么丰盛的经验登程,邵老师有什么心路历程吗?
邵文简:咱们那时候没有当初的学生这么有想法,容易取得方方面面的信息。咱们那时候根本还是听老师家长的,老师说我文科也不错能够学通信,当前倒退会很好,我就这样抉择了本科专业。过后读研究生还不像当初这么风行,然而我大四的时候也接触互联网了。我差不多应该是国内第一批应用互联网的人了,记得很分明是 64K 专线,我一下子就被互联网吸引了,通过一根细细的线就拜访了整个世界,对我产生了十分大的冲击和影响,正好咱们学校也有网络业余,我研究生就转去读了,次要是偏网络传输、网络安全这一块的。我进去守业又是一个重大的转变——去做边缘端的人工智能了……因为不论是学通信还是网络,很多工作还是在边缘端做的,甚至是在嵌入零碎基于汇编做了很多优化。
我感觉大家须要拓宽视线,如果你能在一个方面钻得很深,那你就持续钻上来,但对大部分人来说还是要敢于尝试新的货色。拿 Python 举例,Python 有多种多样的库,明天去做一个 Web 相干的工作,今天做一个数据治理,要多多尝试。
比特熊:比特熊意识的很多开发人都在守业中,邵老师作为亲身经历者还拿到了 A 轮融资,教训分享不能少。
邵文简:我的倡议是趁着年老,甚至 35 岁以前,条件容许就大着胆子去守业,这是你人生精力最充分、学习能力最强的阶段,守业就是压迫本人,把本人 300% 地压迫,能力会迅速晋升……当然还是那句话,守业有危险,有个笑话就是说这几年最失败的事件就是卖房去守业,对吧?另外,止损和止盈都十分重要的,有可能你再花两三年在下面还是不行,须要果决决定。
李者璈:集体不反对卖房守业。
比特熊:李者璈老师开始之前跟我开玩笑说要打个广告,当初机会来了!
李者璈:咱们太极图形当初招人,咱们的商业化产品正在孵化中,咱们太极编程语言的开源自身也须要编译器、图形、变形计算畛域相干的同学来退出进来,从研发到 SRE 到经营同学都招,欢送找比特熊(微信:BitsBear)获取内推直通车~
比特熊:【比特熊直播间】的大独家!两位老师爆料一下本人在工作之余有什么放松自我的形式吗?
比特熊:我先起个头!邵老师的头像是《刺猬索尼克》的蛋头博士,要是没有本熊的特地拜访谁能想到英特尔物联网视频事业部的首席工程师是用这么可恶活泼的头像呢?
李者璈:一杯茶,一个阳台坐一天……有挫败感的时候,我会去社区外面找一些我的项目,解决一些 issue,水一些 PR 换换情绪。如果我写代码写累了,可能会看一下我感兴趣的论文——当然这都算是比拟累的放松,要齐全放松,那我可能会去温习一下《奥特曼》,看一看外面的经典台词,再看看《数码宝贝》,我最喜爱第一部,最厌恶第六部。我始终都是特摄迷,喜爱奥特曼,反正也没有什么不良嗜好,就靠这些来解压。
行将上映的《新·奥特曼》
邵文简:我可不可以说你去社区帮别人解决 issue 就跟打游戏一样啊哈哈哈。
李者璈:我感觉挺好玩的,有时我在公司累了,可能会去看看 issue。和他人探讨的时候会去查各方面的材料,在扩大常识的同时也会转移你的注意力,让你的脑袋有个 break。
邵文简:我的话喜爱跑步,这个是有理论依据的,静止能够产生多巴胺让本人高兴起来。如果你最近一段时间工作不顺,或者一个事件解决得不太好,去跑个步,真的能产生多巴胺,不过记得要不自量力。
李者璈:对,但对于我这种懒人来讲,我情绪不好时候,只想窝在床上,我女朋友把我赶起来,让我去静止,我都起不来。
比特熊有话说
3 月的 MVP 英雄故事不仅有咱们微软的 MVP,还有英特尔的超级技术专家。能够与两位共度直播时光,比特熊十分荣幸,经验值也 Up Up!
邵文简老师的经验丰富多彩,比特熊甚至感觉有些传奇!多个业余的学习,胜利的守业实际,在程序开发、产品工程师、研发架构师多角色无缝切换,现今成为反对英特尔公司物联网事业部寰球视频业务推动的外围引擎。在事业和技术上,比特熊感觉邵老师是须要俯视的顶峰。但在生存里,邵老师激励正在后退的大家敢于尝试和冲破自我,也举荐通过跑步、踢球等踊跃正向的形式缓解压力。谢谢邵老师关怀比特熊的直播设施和运行形式!李者璈老师不愧在 Python 社区很受欢迎啊!尽管他本人说是在本熊的 DDL 压迫下筹备了内容,但与纯技术学习不同的是比特熊看到了开发人的思考,也拓宽了本人的逻辑维度。李者璈老师有着当代开发人的显明标记,坐在直播间里的他也给比特熊和各位观众带来了很多踊跃、跳跃的情绪。心愿跟比特熊一样是超级软粉的者璈老师,多多跟比特熊互动,持续在微软 MVP 小家庭中沉闷!
尽管本期两位嘉宾的技术方向、经验教训都有很大的区别,然而这丝毫不影响两位不论是技术还是故事分享的精彩水平!心愿大家跟我一样享受 3 月【比特熊故事汇】的 Remix 魅力!
喜爱 3 月的【比特熊故事汇】吗?你认为本期的彩蛋是什么?还有什么技术分享或是大咖是你想看到的?欢送在文章下方评论,或者转发文章至朋友圈,发表你的认识并 @比特熊。最爱开发者的熊仔当然筹备了礼物给大家!快让我看到你,将礼物送到你身边!
超前预报——4 月【比特熊故事汇】惊喜叠加,不负相约!锁定我的频道,精彩行将到来!