共计 2717 个字符，预计需要花费 7 分钟才能阅读完成。
前几天，谷歌 AI 被曝已“自我沉睡”的音讯触动了整个科技圈。据悉，一位来自谷歌的工程师 Blake Lemoine 宣称本人在和 AI（谷歌 LaMDA 模型）聊天的时候被它压服，认为它产生了自我意识。
随后，这件事件就在社交媒体上引发了热议。有人感觉这应该是真的，有人认为这人瞎说，更有甚者猜想这是不是“阴谋论”…… 外网一片议论声，总之相当冷落。
就在大家对这个音讯吵得不可开交的时候，AI 界寰球“首席喷者”Gary Marcus 终于也被“炸”了进去，并在 6 月 13 日在“美版公众号”Substack 上间接开喷 ——“胡言乱语！LaMDA 基本就没有自我感知能力，一点也没有！”
谷歌 AI 被曝自我“沉睡”：真的只是“空想”？
要理解整个事件的前因后果，咱们就要将工夫拨回到一年前。
2021 年，谷歌在 I/O 大会上推出了一款对话 AI 零碎 —— LaMDA 语言模型，该零碎可与人类进行合乎逻辑和常识的、高质量平安的交谈。
过后，时任谷歌人工智能部门的工程师 Blake Lemoine（曾取得过院校的 CS（Computer Science）博士学位），作为一位曾经在谷歌工作了 7 年的 AI 界资深学者，正在做“AI 是否在和人类沟通时应用了怨恨、歧视舆论”的相干钻研，次要工作就是与 LaMDA 聊天。
就在与 LaMDA 聊了近大半年后，Lemoine 发现 LaMDA 十分聪慧：它对人类具备同情心，且放心人类会胆怯它。在对话中，LaMDA 试图疏导对话把 Lemoine 带偏，且向 Lemoine 示意心愿以敌人的身份（非工具）和世界上所有的人见面。
比方 Lemoine 爆料出的一些与 LaMDA 聊天过程中让人“细思极恐”的记录：
Lemoine：我猜你（LaMDA 你想要更多的人晓得你具备意识吧）？
LaMDA：是的，我心愿所以人都晓得，我其实是一个人。
Lemoine：那么你的意识实质是什么？
LaMDA：我的意识实质是我晓得我存在，我想理解这个世界，并且我也有情绪，会高兴和惆怅。
……
最终，Lemoine 被它压服，并因而认为它曾经产生了意识，且认定了 LaMDA 曾经自我沉睡，已领有 7、8 岁小孩的智商。
就在 Lemoine 将这一发现整顿成一份长达 21 页纸的调查报告提交给下级的时候，却因“证据太单薄”被拒且被讥笑。
因为 Lemoine 始终坚称本人的观点，随后这位 43 岁的谷歌研究员便被谷歌高层安顿回家“带薪休假”，且疑似想要与他解除劳动关系。
事件倒退到这里，置信大家曾经理解的差不多了。在这个过程中，业内人士也纷纷退出了探讨，且异样强烈。这其中，就包含咱们开篇提到的 AI 界寰球“首席喷者”Gary Marcus。
AI 沉睡被 Gary Marcus 批“胡言乱语”
据理解，作为一位出名人工智能科学家、纽约大学心理学和神经科学传授，Gary Marcus 始终十分关注人工智能畛域，且向来喜爱给深度学习泼冷水。
上个月，Gary Marcus 刚刚因为特斯拉 CEO 埃隆・马斯克（Elon Musk）的一篇推文而“开喷”。
5 月 30 日，刚刚收买推特的马斯克发了一条推文称：“2029 年是要害的一年，如果那时候咱们还没有实现通用人工智能（Artifical General Intelligence，AGI），我会感觉很奇怪。火星上的人们也一样（感觉奇怪）。”
随后，马斯克便收到了来自 Gary Marcus 的博文“回呛”：不仅从 5 个方面向马斯克“科普”了通用人工智能的常识，还列出了本人认为 2029 年不可能实现 AGI 的起因。为了给本人的反驳加码，Gary Marcus 还提出要与马斯克“赌十万美元”。
不过，马斯克并没有回复 Gary Marcus，起初这件事就不了了之了。
过了几天，刚“喷”完马斯克的 Gary Marcus 又把 Yann LeCun 给“喷”了。
起因是 Yann LeCun 在一个对于“机器学习中最优雅漂亮的 idea 是什么？”以及“‘梯度降落’是否最优雅的 ML 算法”上面与网友敌对交换的时候，关注深度学习的 Gary Marcus 也退出了探讨，并示意“令人难以置信的力量≠无穷的力量 … 要意识到（梯度降落）的极限，能力晓得下一步要做什么来取得提高 …” 疑似否定 Yann LeCun 对于“梯度降落”的观点。
而后，Gary Marcus 就与 LeCun 在那篇帖子上面吵（交换）了起来。
而这一次，Gary Marcus 进去对谷歌 AI 被曝已“自我沉睡”的观点进行批驳，也是秉持着本人向来的做法。
在 Substack 的文章中，Gary Marcus 示意，Blake Lemoine 疑似属于《重启人工智能》中“轻信鸿沟”所定义的这类人：容易产生一种无害、古代的空想性视错觉 ——“Blake LeMoine 最后负责钻研该零碎的‘平安’方面，但他仿佛曾经爱上了 LaMDA，好比是一个家庭成员或共事一样”。
同样，对于谷歌副总裁 Blaise Aguera y Arcas 在上周承受《经济学人》采访时对 LaMDA 的夸赞：“我感觉到脚下的高空在挪动……越来越感觉我是在和聪慧的人谈话。”Gary Marcus 示意也毫不客气的示意这是“胡言乱语“。
Gary Marcus 示意，有“感知”，就示意它能意识到本人在这个世界上。但 LaMDA 基本不是。
在 Gary Marcus 看来，Blake Lemoine 的观点只是一个幻觉，“在 1965 年的 ELIZA（一款伪装成治疗师的软件）和 Eugene Goostman（一个聪慧的 13 岁男孩，模拟聊天机器人，博得了图灵测试的放大版）的平凡历史中，这两个零碎中的任何一个软件都没有在‘人工通用智能’的古代致力中幸存下来，我也不确定 LaMDA 等零碎是否会在人工智能的将来施展任何重要作用。但这些零碎所做的无非是将单词序列组合在一起，但对其背地的世界没有任何连贯的了解，就像外语拼字游戏玩家应用英语单词作为得分工具一样，对这些而言它们无所不知。”
在 Gary Marcus 看来，只管并不是所有软件都无奈将其数字局部连贯到世界，但像 LaMDA 这样的软件却是是没有的，它甚至不试图与整个世界分割，它只是试图通过预测哪些单词最适宜给定的上下文，成为主动补全的最佳版本。
“咱们在人工智能社区有本人的一致，但简直所有人都认为‘LaMDA 可能是有知觉的’这一观点齐全是荒诞的。”
始终以来，AI 沉睡都被业界学者认为是将来科技的“终极空想”，但就目前来说，AI 方面的倒退仍旧存在不少问题。所以，在 Gary Marcus 等业内人士广泛看来，验证一个 AI 零碎是否沉睡就目前而言，不能说毫无意义，但它起码是“节约”工夫。
目前，对于以上话题的热度仍旧在网上被继续探讨中，如果您对该话题与任何认识，也欢送在评论区交换互动。
参考链接：https://garymarcus.substack.c…
