两次胜利破解特斯拉主动驾驶零碎，甚至能够在近程无物理接触的前提下操控汽车，将特斯拉的中控大屏和液晶仪表盘更换为本人实验室的 Logo，并收到马斯克亲笔签名的致谢信；近程破解宝马多款车型；间断五年加入国内顶级黑客大赛 Pwn2Own 并取得十六个单项冠军，斩获三个 Master of Pwn 名称，发明了世界最好问题，这到底是一个怎么的团队？
发明上述事迹的正是 腾讯平安科恩实验室负责人吴石 ，那么这个“ 寰球发现破绽最多的人”所率领的实验室瞄准的将来方向是什么？在承受 InfoQ 的专访时，吴石走漏了答案。
起源：InfoQ
作者：赵钰莹
凭着“挖破绽”拿下微软 offer
搞实验室被腾讯收买
去微软是因为我过后发现的破绽比拟多，被腾讯收买是在拿下 Pwn2Own（全世界最驰名、奖金最丰富的黑客大赛）冠军之后。
在退出微软之前，吴石在一家校办企业工作了六年，因为感觉持续呆上来没方法实现本人的幻想就决然辞职。
“我自身是数学系的，但对挖破绽特地感兴趣。”辞职后的吴石花了一年工夫在家专职找破绽，并将其中高价值的平安问题提交到回收安全漏洞的第三方厂商，这些厂商会利用破绽信息制订他们的 IPS 规定，同时将信息与微软等厂商共享——所谓高价值破绽，就是影响较广、不须要什么前置条件、默认开启的破绽，比方 windows 破绽、浏览器破绽等。这类破绽如果被黑客歹意利用，造成的影响是微小的。
在这期间，吴石一个人挖掘超过 100 个 Safari 的 CVE(“Common Vulnerabilities&Exposures”，公共破绽和裸露)破绽。他曾发明过单年申报微软破绽数量寰球占比 10%、单独挖掘 15 个 iOS 破绽的问题，这个数字甚至比同期苹果自家钻研人员发现破绽（6 个）还要多。就这样，吴石被微软留神到了，微软的一位技术总监间接给了吴石一份 Offer。
我对这份 offer 很称心，因为根本不限度我做任何事件，不必坐班，每年 20 多个可用破绽的 KPI 只用一个月就能实现，还顺便买了套房。
2012 年，吴石受到几位已到职的微软共事的邀请，开始负责 keenteam 的技术顾问，这是世界范畴内由厂商官网确认发现计算机破绽数量最多、最理解冲破古代平安爱护技术的业余平安团队之一。
“咱们过后次要是心愿找到苹果手机越狱的办法，惋惜这个指标没实现，然而咱们凭借着过后的研究成果去打了一场 Pwn2Own，拿到了冠军。”
那一年的 Pwn2Own，keenteam 攻破了过后苹果最新的 iOS 7.0.3，成为国内安全畛域的第一个世界冠军。获奖当天，世界出名的平安企业法国 Vupen 通过推特公开恭喜（Vupen 曾在多届相似赛事中拿到冠军），本次较量受到了中国、美国、日本、英国、法国、韩国等媒体的高度关注，同时引起了腾讯的关注。2014 年，keenteam 被腾讯收买。
在此之后，keenteam 迎来了两年的独立倒退，做了很多尝试，尽管技术过硬，但吴石坦言过后也没什么盈利模式，很多产品过后在市面上是能够找到雷同商品的，根本属于很难卖出去的那种，过后的一个尝试是在 Android 手机上利用破绽取得比拟高价值的权限，避免病毒、木马对手机做毁坏，这对腾讯的手机管家特地有帮忙，keenteam 的相干成员也在之后不久全副被腾讯收编，成立了现在的腾讯平安科恩实验室，吴石也正式成为腾讯 15 级科学家。
从得心应手到正式收编，这个“寰球发现破绽最多”的男人也开始为治理团队操心，毕竟整个团队汇集了很多优良的白帽黑客，而优良的人大抵是极具共性的。吴石示意，腾讯平安科恩实验室外部由大量的项目管理同学和研发团队组成，包含车联网研发团队、挪动平安钻研团队、IoT 研发团队和偏向于根底安全性钻研的团队，这个团队又分为通用软件破绽开掘模式研发的团队和钻研软件破绽利用计划的团队。
“一开始，咱们外部成员在抉择方向上是自在的，但起初发现这样的成果并不好，很多人大学毕业后退出腾讯平安科恩实验室，对于钻研方向是迷茫的，大多数状况下，咱们会给成员一个疏导，更偏向于让他们钻研一些与将来相干的畛域，比方 5G、物联网平安、工业互联网安全等，咱们外部尽管有组织架构，但大家往往是跨组织相互交换，成员自发成立学习兴趣小组，外部也会定期发展学习流动，由资深的研究员分享论文和成绩。”
先后攻破特斯拉、宝马
收到马斯克亲笔致谢信
尽管吴石自己在平安畛域风生水起，但对公众而言，熟知腾讯平安科恩实验室是从他们攻打特斯拉开始的…
2016 年 9 月 21 日，腾讯平安科恩实验室正式发表，他们以近程无物理接触的形式胜利管制特斯拉汽车，这在寰球尚属首次。简略来说，他们的钻研人员只需坐在办公室，就能实现对特斯拉的近程管制。
整个过程花了两个多月的工夫，有多位钻研人员参加，团队应用一辆 2014 款 Model S P85 进行平安钻研，同时还在一位敌人刚购买的新款 Model S 75D 上进行复测，两者均装置了最新版本固件，证实该项钻研能够影响特斯拉多款车型。
此次攻打通过特斯拉车辆的互联网络实现，这是他们可能实现近程无物理接触的前提。实践上，寰球范畴内的任意一款特斯拉车型都有可能遭逢此类攻打，毕竟大家的零碎都是同一套。
破解胜利后，腾讯平安科恩实验室能够将特斯拉的中控大屏和液晶仪表盘更换为实验室 Logo，此时用户任何触摸操作都会生效。当然，该破绽带来的危害远远不止于这种小把戏，他们能做的事大抵分为两类，别离是车辆停车状态和前进状态的近程管制。
“这个事件其实特地简略，咱们还是 keenteam 的时候 CEO 买了辆特斯拉，被腾讯收买后这辆特斯拉作为公司资产带过去了，过后不想节约，就钻研了一下。”
2017 年 6 月，整个团队再度破解特斯拉 ModelX 零碎，近程管制刹车、车门、后备箱，操纵车灯以及天窗。钻研人员通过 Wi-Fi 与蜂窝连贯两种状况下均实现了对车载零碎的破解，通过汽车的网络浏览器来触发计算机破绽，发送恶意软件，实现黑客攻击。
“2016 年的时候，咱们本人做了个攻打用的网站，通过让特斯拉内置的浏览器拜访咱们做好的网站就能够黑掉中屏，这仅仅是第一步，两头就是须要找一些关联破绽，整个攻打链路比拟长。2017 年的状况差不多，咱们做了一个伪 Wi-Fi 热点，wifi 主动连上后就会给一个攻打代码，间接通过 Wi-Fi 或者蓝牙来攻打整个特斯拉的零碎。”
搞定特斯拉之后，整个团队也收到了汽车工业界一些人的质疑，粗心为即使能搞定相似特斯拉这种造车新权势，也搞不定飞驰、宝马这种品牌。于是，吴石又带人搞定了宝马。
2018 年 5 月，腾讯科恩平安实验室的钻研人员在宝马多款车型中发现了 14 个安全漏洞。该钻研我的项目工夫为 2017 年 1 月至 2018 年 2 月，随后他们向 BMW 报告了这些问题，并取得寰球首个“宝马团体数字化及 IT 研发技术奖”。
说实话，特斯拉还是主动驾驶圈安全系数较高的
这番操作过后，腾讯平安科恩实验室在汽车平安畛域声名鹊起。
2019 年 3 月 29 日，腾讯平安科恩实验室（Keen Security Lab）在官网推特上公布了一篇对于特斯拉主动驾驶安全漏洞的文章链接，题目是《特斯拉 Autopilot 的实验性平安钻研》，重点关注在视觉 AI 模型反抗钻研、Autopilot 零碎架构与网络安全等方面。以特斯拉 Model S（软件版本 2018.6.1）为对象，针对其搭载的 Autopilot 零碎进行平安钻研，腾讯平安科恩实验室获得了以下三个研究成果。
1. 雨刷的视觉辨认缺点
特斯拉 Autopilot 零碎借助图像识别技术，通过辨认内部天气状况实现主动雨刷性能。腾讯平安科恩实验室通过钻研发现，利用 AI 反抗样本生成技术生成特定图像并进行烦扰时，该零碎输入了“谬误”的辨认后果，导致车辆雨刷启动。
特斯拉主动雨刷性能的视觉神经网络
2. 车道的视觉辨认缺点
特斯拉 Autopilot 零碎通过辨认道路交通标线，实现对车道的辨认和辅助管制。腾讯平安科恩实验室通过钻研发现，在路面部署烦扰信息后，可导致车辆通过时对车道线做出错误判断，以致车辆驶入反向车道。
3. 遥控器操控车辆行驶
利用已知破绽在特斯拉 Model S(版本 2018.6.1)获取 Autopilot 控制权之后，腾讯平安科恩实验室通过试验证实，即便 Autopilot 零碎没有被车主被动开启，也能够利用 Autopilot 性能实现通过游戏手柄对车辆行驶方向进行操控。
“咱们团队花了差不多一年的工夫实现近程管制，这个老本是十分高的，所以特斯拉其实是安全系数相当高的一款车，如果人机接口持续减少（比方智能号召性能呈现）必然须要在远端或者车上开一个服务端口，这样必定会减少被攻打概率，但相对来说，特斯拉是十分平安的。”
对于主动驾驶畛域的汽车安全性问题，吴石认为要害要看零碎复杂度，越简单越容易呈现平安问题，看似简略的零碎往往十分难以攻破，个别厂商都会模仿攻打的形式来进步安全性，但这个工作量十分大，当初能够通过机器学习的办法来防备攻打，但因为是一个比拟新的畛域，所以大部分厂商还没有这样的概念，这也导致主动驾驶目前在信息安全方面比拟弱。
因而，吴石带着团队搞出了 sysAuditor，这是一款对嵌入式零碎 (物联网设施、手机、汽车) 进行平安基线审计的产品，采纳线下私有化部署，确保客户固件数据更强隐衷爱护，次要面向汽车、手机、物联网设施制造商。车厂研发部门能够对车载零碎的安全性进行检测，对车端系统的设计、配置、编码缺点和安全漏洞进行自动化剖析。尽管某些简单问题或高级破绽可能还须要平安研究员的人力染指，但“绝大多数问题都曾经可能通过平台零碎自动化实现了”。
这一次，黑客瞄准了物联网
当黑客瞄准了某一指标时，这意味着该畛域的平安问题必须要引起器重了，吴石及腾讯平安科恩实验室的过往战绩也证实了这一点。
“主动驾驶只是一部分，咱们最次要还是钻研汽车这个工业产品自身的安全性，通过做这样一个攻打演示，让厂商和消费者也可能理解主动驾驶在平安上还是很有问题的，须要被高度重视。”
现在，物联网风起，各种类型的硬件设施在可预感的将来会爆炸式增长。从 PC 时代到挪动时代，吴石这群人对浏览器、Android、iOS 钻研得曾经足够多了，当整个时代持续向前，显然到了物联网和工业互联网的时代。
采访中，吴石示意随着 5G 技术的成熟，业界呈现了很多低成本的物联网设施，这些设施的安全性十分有问题，而且重大到会影响整个互联网的平安。一方面，设施自身领有更多的入口和管制形式，这为用户带来操作便利性的同时也造成了更多攻击面。IoT 设施的重大碎片化景象以及设计开发人员安全意识单薄，都会导致出厂的固件中存在着各种各样的破绽。
另一方面，因为 IoT 自身应用的操作系统数量多，应用的架构不对立，固件格局更是因厂商而异，常见格局数以百计，同时还存在着许多厂商自行设定的非凡格局。多样性给 IoT 设施带来定制化与差异化的便捷，同时也给平安自动化检测带来了挑战。
“其实很多做物联网设施的厂商利润很薄，天然对平安是欠考虑的，这些便宜的硬件设施存在很多平安问题，最大的问题是利用了很多十分老的开源软件，这些软件存在的平安问题甚至曾经被颁布了，但厂商依然没有做修复，毕竟即使是家庭路由器的部件降级都须要破费很多工夫和费用，这就导致破绽间接曝光在互联网上，黑客能够随便利用。”所以，腾讯平安科恩实验室心愿解决这些平安问题。
针对此，吴石率领的腾讯平安科恩实验室推出了一款自动化固件平安扫描零碎 IoTSec，零碎通过对 IoT 设施常见攻击面、破绽与平安危险模式进行建模，应用数据流、控制流以及动态污点剖析等办法，对设施固件以及固件配套的源代码进行平安扫描。平台提供针多种指标的扫描检测能力，反对多种支流操作系统，反对常见支流 cpu 架构，在多个维度、最大化并尽量精准地辨认设施中的平安危险问题并以报告的模式全面出现并给出修复倡议。
“咱们之前测了大略 20 万固件，因为这些设施的格局千差万别，一半以上根本都能够解压胜利，破绽检测的准确率能够达到 80% 到 90% 以上。”
要想利用机器学习的办法实现自动检测，还必须领有足够多且优质的数据。吴石示意，很多厂商都会在网站提供下载降级的 rom，只管他们可能不乐意修复，所以并不被动推送，但对于重大的破绽不得已也会修复，腾讯平安科恩实验室就把这些全副进行了打包，囊括进了检测零碎。目前，该零碎开明了网上的免费版 https://iotsec.tencent.com/，能够收费试用。
自成立伊始，腾讯平安科恩实验室就开始对外输入平安能力。“那个时候，咱们没想过赚钱，就是从手机开始，想弄明确手机内部长什么样子 ，那时候是跟华为的工程师单干，前面缓缓车联网的客户就多起来了，包含奥迪、宝马、上汽团体，广汽、东风等，再到现在的 5G、物联网， 咱们心愿能够把积攒的能力对外输入，包含物联网，咱们还是违心以适合的价格对外提供服务。”
过来十年，吴石最感兴趣并且始终在钻研的方向都是动静破绽发现，利用很多机器去跑，跑进去的后果是一个实实在在的平安问题，这还是蛮有挑战的，对一个大型软件而言，把所有状态都跑一遍是不事实的，这就须要抉择适合的算法和形式。面向未来，吴石心愿能够继续加强这一部分的钻研，通过将 AI 引入平安钻研中来无效升高难度，并将这些能力和办法，比方 IoTSec 输入到全国各地，也是尽可能缓解平安畛域的人才缺口。
“往年行业的人才缺口大略是 70 万，明年缺口要达到 100 万。目前高校每年能提供的平安业余的毕业生仅 5 万左右。另一个问题则是人才断层，你能够看到‘70 后’在企业乃至国家层面做平安的比比皆是，‘80 后’这一代就曾经有了微小的人才断层，因为过后平安行业十分苦，压根儿不挣钱，大多数高校也就没有设立平安业余。此外，国内安全畛域炒得很冷落，看起来人也不少，然而这么多年下来可能行销全世界的平安产品简直没有，被所有行业宽泛采纳的平安产品也乏善可陈。”
此外，腾讯平安科恩实验室的工业控制系统在上海松江区也已落地，工业互联网的平安钻研也将是整个实验室将来能力输入的一部分。
庆幸，这些顶尖的平安人员进入了腾讯平安科恩实验室，成为了最佳的白帽黑客。
采访嘉宾：
吴石 腾讯平安科恩实验室负责人
20 年来始终从事网络安全方面的钻研及开发工作。曾在浏览器畛域、PC 软件畛域的破绽开掘获得了系列研究性翻新成绩。其自己领导的科恩团队专一于挪动互联网安全、车联网平安钻研，与特斯拉、奥迪、宝马等支流车厂建设了单干关系，为消费者的出行平安做出了较大奉献。
吴石还重视人才的造就，先后组建的 keenteam 平安钻研团队、eee CTF 战队，以及当初领导的科恩实验室，培育出了数十位具备世界先进程度的研究员。团队在国内、国内平安大赛均获得了卓越问题。在世界级的黑客大赛 pwn2own 上斩获了 3 个团体冠军，往年又在有“黑客世界杯”之称的 DEFCON CTF 上拿到了总冠军——这是中国战队第一次在这项国内顶级平安赛事上获得冠军。