大家好!我是爱吃、爱玩、更爱学习技术,IT 届的新晋网红,开发者的好敌人——比特熊!
比特熊:大家看了《新蝙蝠侠》吗?心愿大家都有机会体验到(延期上映到 5 月 17 日)!切实不行,也能够回去看看“诺兰三部曲”解解馋……
比特熊:《新蝙蝠侠》里哥谭发大水,事实里咱们也得爱护地球不被淹,4 月 22 日是第 53 个地球日,在这个非凡的节日比特熊不仅请来了英特尔的 OpenVINO 技术专家杨亦诚,还请来了间断 17 年的微软 MVP、在 MVP 小家庭里一提到就各种夸赞的胡浩老师!一起投资爱护咱们的地球。
【比特熊故事汇】作为比特熊直播间的重要栏目,定期请来技术大牛和行业先锋做客。这里不仅讲最“热”的技术,还有更多待解锁的集体故事和趣味话题!请继续关注,更激励大家举荐你想意识的“英雄”。欢送大家来到直播间,跟比特熊一起,与专家们零距离畅聊。
欢送大家拜访 MSLearn 学习平台
https://aka.ms/DevMSLearn
与比特熊一起布局学习门路,减速进阶
比特熊:如果请两位老师在电影里抉择一个本人喜爱的人物,或者说“世另我”的角色,会抉择谁?
胡浩:我是一个很喜爱看电影,刷美剧的人,都说“男人至死是少年”嘛,多少有一些英雄情节。在很多电影里,我都会为英雄角色所倾倒,举例来讲,比方士官长,还有《龙珠》的孙悟空、超人、钢铁侠等等,甚至是《碟中谍》的 Ethan,也是我的偶像。所以 Ethan,你有什么喜爱的电影角色和电影的英雄吗?
杨亦诚:胡浩老师说的很多电影英雄我也喜爱,那我最崇拜的还是蝙蝠侠,他所有做的一切都是藏在面具底下的,打击犯罪,除暴安良,只管可能会背负骂名,但他仍然在暗夜中守护着哥谭。
比特熊:看起来两位心中都有很明确的英雄人物,期待咱们“充电”之后的具体分享。既然是地球日,那不得不提起英特尔和微软联结举办的“AI for Earth”较量,作为重要的配角人物,请 Ethan 介绍一下~
杨亦诚:咱们英特尔和微软联结打造了一个以“云车竞速,码到胜利”为主题的黑客松较量,以 OpenVINO 和微软的 Azure 服务作为技术支点,率领宽广的开发者和生态合作伙伴在主动驾驶和工业平安畛域去进行一些摸索和开发,推动绿色低碳倒退。
英特尔始终致力于推动工业技术自动化,包含采纳机械视觉技术,缩小人力的反复劳动力,尽可能升高碳排放,实现可继续生产。
比特熊:谢谢 Ethan 介绍了这个很“地球日”的黑客松大赛,还分享了英特尔的绿色案例。那胡浩老师作为咱们微软的 MVP 能不能也给大家讲讲微软的绿色予能奉献,还有您善于的技术畛域。
胡浩:往年地球日的主题是“投资咱们的地球”,疫情以来我跟大家一样,很久没出远门,我始终幻想着有一天能进来浪,自在地潜水。以前潜水的时候,我也察看到每年地球日各大潜水组织都会做一些无关爱护陆地的流动,比如说潜水的同时收集一些陆地垃圾,在海滩上漫步时捡垃圾。
像我手上微软推出的这款鼠标,差不多 20% 的塑料来自陆地垃圾。包装也是废物利用,用榨糖剩下的甘蔗垃圾制成,体现出对陆地的关心。
我当初就任于 VMware,跟微软不谋而合,VMware 其实也有在 2030 年实现碳中和的打算。我自身是 AI 和 Azure 方向的 MVP,那么在 Azure 里,我会比拟关注 IoT 物联网的一些技术,微软很多 IoT 的解决方案外面,也会提出来利用互联网技术帮忙咱们减排,爱护水资源,以及废物再利用等等。
有两个例子我很乐意跟大家分享,第一个是数据中心,咱们晓得数据中心为了保障稳定性,一般来说会用传统的柴油发电,对环境的影响比拟大,所以微软当初尝试用清洁能源,比如说氢燃料电池作为备用电源。
另一个例子是 18 年的时候,微软发展的一项试验,把数据中心放到一个不锈钢全密封的桶里,存到陆地外面,作为一个数据中心失常地工作。2020 年把这个不锈钢桶捞起来了,通过两年的应用发现它的故障率,只有海洋上的 1 /8,还节俭了散热须要的能源。
胡浩:我明天想跟大家聊的技术主题,是对于微软 Azure 基于人工智能的服务,分为三类,第一类是在底层的 Machine Learning。基于机器学习能够构筑出一些认知服务,蕴含语言、视觉、语音等等,帮忙咱们做一些决策,这些服务很容易嵌入到工作流当中。在 Azure 的云端有一个机器学习工作室,有三大神器:
**1、设计器,能够通过拖拽的形式很快地达成咱们的指标,门槛比拟低,对机器学习的模型之类的概念都不是很分明也没关系。
2、自动化的机器学习,咱们能够在这里提出咱们这个机器的指标,提供对应的数据集,让它主动去抉择适合的模型。
3、记事本,帮忙咱们疾速理解代码,做一些交互的学习。**
从构建的模型到调整和定型,这就是所谓的机器学习的生命周期,最初要对训练的模型打包、验证、部署。讲到部署,就要提 OpenVINO 了。OpenVINO 跟 MLOps 有很好的连接,咱们能够利用 OpenVINO 在公布环节进一步优化,没有通过优化的模型可能须要更多的 CPU 工夫,能耗更大。
在这个认知服务这一层,去年退出了一个新的服务叫 OpenAI,OpenAI 是马斯克跟微软各投资了 10 亿美元作为启动资金,在 2018 年构筑的这样一个组织去做十分巨量的数据训练,它的第一版本 GPT 呢,应用了 1.17 亿的参数,预训练的数量达到了这个 5 GB,到 GPT- 3 预训练的数据曾经达到了惊人的 45TB,微软曾经逐渐把 OpenAI 引入到平台当中了。
GPT- 3 到底有什么意义?它自身分成四个不同的模型级别,最高级别达文西能够主动依据特定受众生成创造性的内容,比方咱们能够让它帮忙咱们生成较量的解说词,之前做过试验,听众没有方法分辨这个解说词是不是真人写的。在微软本人的服务外面,比如说像在低代码平台 Power BI 等等这样一些剖析的平台工具里,用于构建模型,应用相似自然语言的形式做一个表达式的构筑,能够帮忙没有编程训练的业务人员。还有 AI 程序伴侣,也是一个十分弱小的工具,我本人也用过,它能主动帮忙你生成一些代码段,很省事。
最初给大家举荐一个我基于 MSLearn 整顿的疾速理解微软人工智能的学习门路,期待大家一起学习进阶。
杨亦诚:胡浩老师这边讲了微软 Azure 的机器学习和认知服务,咱们借助 OpenVINO 这个工具,进一步缩小 AI 平台上的能耗。英特尔成都工厂曾经率先将 AI 技术利用在了生产治理上,仅仅通过雨水收集这样一个零碎,每年就能够节约 40 万加仑左右的咸水。
OpenVINO 能帮忙在模型部署的时候,均衡模型在端侧时的反应速度和能耗,升高 AI 算力资源的耗费。我次要分享内容就是对于 OpenVINO 2022.1 新版本中 runtime API 2.0 的介绍。
OpenVINO 是英特尔在 2018 年公布的深度学习框架,它的外围指标是减速英特尔平台上的深度学习模型推理的性能。从 OpenVINO 公布至今经验了四年的历程,通过多个版本的迭代,减少了一些新的组件和性能。
OpenVINO 的开发模型的流程分为三步:
1、构建,如果各位感觉 Open Model Zoo 的模型不太适宜你以后的指标场景,也能够通过本人的一些定制数据集通过咱们的 training 工具将咱们的培训模型进行一个重训练,调优最终部署到你的设施或者是一些利用场景下来。
2、优化,咱们提供了 Deep Learning Workbench 这样一个可视化的调试工具帮忙你疾速在网页端做一些可视化的模型的性能评估以及精度评估,此外还有一个叫 Post-Training Optimization 的工具用来做后训练的量化,这样就能够实现对模型的量化压缩。
3、部署,咱们反对在英特尔不同的硬件平台进行部署,比如说一个 ATOM 的小 CPU 或者酷睿的 CPU、英特尔的集成显卡以及 GPU 等等。
OpenVINO API 2.0 带来的第一个新的性能个性就叫 Preprocessing API 接口,它的外围能力是将咱们的前解决工作继承到了模型的执行图中,这样做的劣势是能够将残缺的 PaddlePaddle 模型的解决流程打包成一个模型的计算图,如果你的 CPU 上曾经跑了一些业务零碎,那咱们这部分的前解决工作就不会占用你工作零碎的资源。
这边我列了一个 Benchmark,是英特尔最新的数据,2022.1 的版本相较于之前的 2021.4,性能上在同样的硬件平台上有比拟大的晋升。
最初,咱们这边也提供了一个疾速去学习 runtime 2.0 接口的捷径,在咱们的 VS Code 上做了一个小的 Snippets,能够疾速帮忙大家补全代码,不必去重复查阅文档。我集体始终用 VS Code 作为一个外围的开发平台,它对一些 OpenVINO 的惯例 Recommend API 操作都有一些定义……大家如果对 OpenVINO 新的 runtime 有趣味,又不想去重复翻阅咱们的官网 API 文档的话,能够去用 VS Code 的 Snippets 工具。
如果大家对 OpenVINO 推理部署优化这块有趣味的话,也十分欢送大家退出咱们 OpenVINO 的中文社区,这个社区是在 2020 年 5 月 16 号成立的,咱们会定期举办一些线上和线下的沙龙流动,提供人工智能开发者的一个交换场,这里还能够关注咱们的 B 站和公众号,B 站上有大量对于 OpenVINO 的技术分享以及一些培训课程。
比特熊:感激两位老师带来技术干货和进一步学习摸索的门路。除了专业知识分享,比特熊也很想晓得两位老师本身乏味的故事。不得不说,胡浩老师曾经是间断 17 届的微软 MVP 了,退出微软 MVP 小家庭这么久,必定有很多难忘时刻,来个 17 年微软 MVP 视角的爆料吧!
胡浩:我在这个 MVP 的圈子里混了比拟长的工夫,意识的 MVP 小伙伴比拟多。微软最早设立这样的一个我的项目,是为了在微软和用户之间有一个比拟好的社区桥梁。MVP 能够更快地把用户的声音传递给微软,比如说传递给产品组或者研发。另外一方面,咱们也能够把微软的最新技术分享到社区。
咱们组织过很多流动,举两个例子,一是咱们之前在 MVP 的峰会上组织过一些公益的流动,比方给农民工子弟去讲一些编程等等。每一年咱们也会跟微软还有其余的组织一起来做“编程一小时”之类的流动。2017 年的时候那一年微软现任 CEO 来到中国,给了十分贵重的五分钟工夫跟 CEO 交换了一下和留下了一张合影。讲认知服务的时候,我常常拿这张照片举例子。
比特熊:欢送更多有志的专家敌人退出咱们的这个漂亮的小家庭,那我也想问到 Ethan,在英特尔工作是一种怎么的体验呢?
杨亦诚:其实我是刚退出英特尔不久,我是去年退出的,英特尔作为一个跨国企业或者说外企,不会去激励你去花大量的工夫在工作上,或者说无谓的加班加点,996 这样的状况。咱们还会定期做一些线下流动,帮忙大家更好地和共事交换和互动。
其次,英特尔作为一个寰球十分有影响力的企业,他的技术栈也十分丰盛。咱们有共事是做云的,有做 5G 的,有做 AI 的,还有做硬件落地的等等。我也十分有幸能够跟泛滥大佬一起工作,在英特尔工作让我有机会领略到各种技术,让本人接触未曾波及的畛域。物质方面,咱们公司的福利很好,有健身房、篮球场呢,总的来说是一个十分人性化的工作环境。
比特熊:面对疫情,大家对居家办公都司空见惯了,两位老师目前都在上海,在家的时候,无论是工作还是均衡生存,大家妙招能够一起交换?
胡浩:我次要工作的畛域叫最终用户计算,它致力于提供十分平安的近程工作环境,所以对我来说,居家办公曾经是常态了,我从 2020 初开始就进入到所谓的混合办公的场景。很长一段时间进不了公司,起初疫情好一点之后,我所在的公司也比拟提倡在家工作的模式,我还特意从公司申请了一台显示器。这次疫情来得比拟忽然,很多敌人可能都被关在家里了。在家工夫长了,必定会焦虑,须要被动舒缓本人的情绪,比方咱们刚开始聊的电影、美剧。有时候,我会把上 MSLearn 刷学习门路作为我的消遣,每一次你去看一个可能跟你本职工作齐全不相干的畛域,就挺有意思的,而且可能在将来的某个时刻,这些常识会反哺到你的工作当中来。
很多人,包含咱们的一些小伙伴,在家里这么长时间了始终没机会理发,大家能够看到我头发比拟短,因为我从 12 年开始就买了一个推子,给本人理发哈哈哈。
杨亦诚:我和胡浩老师不一样,我这个发型不太适宜用推子,所以我的确曾经一个多月没理过头发了。居家办公我也受到很多方面的困扰,比如说我家小孩在我白天下班的时候会哭闹,同时我一直要在工作和日常生活间切换,要抢菜、收快递、做核酸等,导致工作被频繁打断。我有几个解决方案,我白天会尽量解决一些和团队相干的工作,比如说散会,或者探讨某一个 report 或者 proposal。早晨的工夫绝对比拟宁静,我就能够去做一些集体相干的工作,比如说写写代码、看看书、写集体的报告等等,更好集中注意力。
居家之后,你的整个作息法则也可能被打乱了,就须要找到适宜本人的新的生物钟。固定下来之后,还是能够达到比拟高效的状态的。我以前比拟喜爱打篮球,踢足球什么的。当初我也拿出了很久没有玩的 PS4,玩一些足球游戏和篮球游戏,消磨周末的时光。
比特熊:最初的黄金时间,当然要留给咱们的电影大举荐环节,以蝙蝠侠为崇拜英雄的 Ethan 先来!
杨亦诚:那我来聊一下我集体比拟喜爱的电影和电视剧,首先我最喜爱的两部电影就是《蝙蝠侠:光明骑士》和《指环王》,前者扭转了超级英雄电影的拍法,打造了一个基于真实世界的义警形象;《指环王》十分巨大,真正的史诗电影。
胡浩:我也很喜爱《指环王》系列,战争场面十分过瘾,护戒联盟抵挡了那么多引诱,历经磨难,把魔戒送到末日火山去毁掉,整个过程回想起来还是很震撼。
杨亦诚:《蝙蝠侠》这里我抉择了 Joker 的海报,以往的反派往往是为了金钱,或者比拟世俗的利益,Joker 好像是邪神化身,谋求着纯正的凌乱,希斯·莱杰的表演更是精彩十足,把我迷住了。
胡浩:我喜爱各种类型的片子,比如说像科幻、和平,还有构造比拟精美的剧情片,以前我比拟喜爱杜琪峰导演的电影,《暗战》等等。这次特地想提到刘德华主演的《墨攻》,改编自日本的漫画,讲的其实是咱们的墨子的故事。我很喜爱墨子的观点,比方兼爱非攻,节用和尚同。
墨子的这些理念,不像显学一样流传得那么宽泛,他始终试图用本人的技术扭转这个世界,跟咱们去献身社区、献身开源,有肯定的类似,大家会对一些事物抱有理想主义的想法。刘德华也是我十分喜爱的一位演员,他是一个十分致力的演员,可能他的天性不是最好的,演技可能也不是最棒的,然而你会看到他始终以来都十分致力去一直进步本人。
以我本人为例,我可能不肯定有很好的资质,也不肯定在某个方向十分业余,但我置信如果始终放弃学习的心态,哪怕没有一个十分好的一个后果,这个过程也曾经让人十分满足了。
比特熊有话说
4 月彷徨在春天里,比特熊十分幸福能在这样舒服的节令邀请到来自微软 MVP 团队和英特尔的两位像四月天一样和煦的专家。比特熊请来的嘉宾技术过硬是不可否认的,同样他们也给比特熊带来了新的启发和生存力量。
胡浩 老师,咱们 17 年的微软 MVP,总是以最虚心的态度,一直地学习和空虚本人,毫不犹豫地奉献本人帮忙别人。胡浩老师付出了很多在任务分享中,集体也有丰盛的兴趣爱好,比方摄影、书法、潜水,从咱们的直播片段中也不难看出,摸索新知也是他的趣味之一,而且他很享受过程中的播种。跟 Ethan 的分割是因为微软和英特尔正在举办的“AI for Earth”的较量,作为技术领导的他展现了业余能力。提到电影和影视剧人物,Ethan 也有很多分享,比方最爱的英雄蝙蝠侠和《窃听风暴》做好事不留名的主人公。或者《绝命毒师》中的“老白”,联想到本人,很多时候能够缩小关注来自外界的价值判断,找一件本人喜爱,违心花工夫钻研,并且对别人有价值的事,造成内驱力,一直精进本人。
尽管因为疫情,线下相聚的机会延后了,然而咱们也理解到在“0 和 1 的世界”里无所不能的开发人也有“抢菜”、“调整生存法则”、“解决头发问题”的懊恼,当然在这种状况下他们依然输入了靠谱的解决方案。心愿大家和我一样接管到了两位专家输入的技术充电和正向情绪价值,像感触春天一样领会到开发人的乏味和浪漫吧!
喜爱 4 月的【比特熊故事汇】吗?有什么想对两位老师的发问,不限技术还是故事。欢送留言发问,嘉宾亲自解答,机会无限,快快留言。或者会有意外惊喜哦!
5 月【比特熊故事汇】大事件行将产生,错过悔恨一年!锁定我的频道,精彩行将到来!
点击浏览原文,重温本次直播!