人工智能革命从AGI到ASI的道路

在某种程度上，我们将获得具有人类一般智能的 AGI 计算机后。只是一群人和计算机平等地生活在一起。

哦，实际上并不会。

问题是，AGI 具有与人类相同的智能和计算能力水平，但仍然具有优于人类的优势。如：

硬件

• 速度 。大脑的神经元最大频率大约为 200 赫兹，而今天的微处理器（比我们达到 AGI 时慢得多）运行频率为 2 GHz，比我们的神经元快 1000 万倍。大脑的内部通信速度可以达到 120 米 / 秒，但与计算机以光速进行光学通信的能力相比还是要慢得多。
• 尺寸和存储 。大脑被我们头骨的形状限制住了它的大小，而且无论如何它都不会变大，或者 120 米 / 秒的内部通信需要很长时间才能从一个大脑结构到另一个大脑结构。计算机可以扩展到任何物理尺寸，允许更多的硬件投入工作，更大的工作内存（RAM）和长期内存（硬盘存储），它具有比我们自己更大的容量和精度。
• 可靠性和耐用性 。不仅是计算机的记忆更精确。计算机晶体管比生物神经元更准确，并且它们不太可能恶化（并且如果它们退化了还可以被修复或替换）。人类的大脑也很容易疲劳，而计算机可以不间断运行，性能达到最佳状态的情况下可以每周 7 天每天 24 小时运行。

软件

• 可编辑性，可升级性和更广泛的可能性 。与人脑不同，计算机软件可以接收更新和修复，并且可以轻松地进行实验。升级也可能扩展人类大脑薄弱的领域。人类视觉软件非常先进，但其复杂的工程能力相当低。计算机可以在视觉软件匹配人类视觉，但也可以在工程和任何其他领域同样进行优化。
• 集体能力 。人类在建立一个庞大的集体智慧时压倒了其他所有物种。从语言的发展和大型密集社区的形成开始，通过写作和印刷的发明，到现在通过互联网等工具得到加强，人类的集体智慧是我们能够远远超过所有其他物种的主要原因之一。计算机将比我们做的更好。运行特定程序的全球人工智能网络可以定期与自身同步，以便任何一台计算机学到的任何东西都可以立即上传到所有其他计算机。这个群体还可以作为一个单元来实现一个目标，因为没有不会像我们人类那样，存在不同的意见、动机和私利。

人工智能很可能通过编程进行自我提高而达到 AGI，它不会将“人类水平的智能”视为一个重要的里程碑 – 从我们的角度讲，它只是一个相关标记 – 并且没有任何理由在达到我们的智力水平后“停止”。而且鉴于 AGI 相对于人类的优势，及时是与人类智力相当的 AGI 也会有优势，很明显它只能在短暂的时间内攻击人类智能，然后才能加速进入优于人类智能的领域。

当它发生时，可能会吓得我们屁滚尿流。原因在于，从我们的角度来看，A）虽然不同种类的动物的智力各不相同，但我们对任何动物的智力所了解的主要特征是它远低于我们的智力，B）我们认为最聪明的人比最笨的人聪明的多。有点像这样：

因此，当人工智能向我们的智能向上逼近时，我们会将其视为动物而言，它只是变得更聪明了。然后，当它达到人类最低的能力时 – 尼克博斯特罗姆使用“村里的白痴”了这一词 – 我们会说，“哇哦，这就像一个愚蠢的人类。真可爱！“唯一的事情是，在大范围的智能中，所有人类，从村里的白痴到爱因斯坦，都在一个非常小的范围内 – 所以刚刚击败村里的白痴水平并被宣布为 AGI 后，它会突然比爱因斯坦更聪明，并且我们不知道是什么击败了我们:

那会发生什么。。。。。。之后呢？

智力爆炸

我希望你享受正常的时间，因为这是当这个话题变得不正常和可怕的时候，它会从这里继续前进。我想在这里暂停并提醒你，我要说的每一件事都是真实的科学，都是对未来的真实预测，这些预测来自一大批最受尊敬的思想家和科学家，请记住这一点。

无论如何，正如我上面所说，我们目前大多数的 AGI 的模型都是通过人工智能的自我改进来实现目标。一旦进入 AGI 时代，即使一些通过不涉及自我改进的方法形成和发展的系统现在也足够智能，如果他们愿意，就可以开始自我改进了。

在这里我们得到了一个强烈的概念： 递归的自我改善。 它的工作原理如下 –

在一定水平上的人工智能系统 – 比方说人类村庄的白痴 – 被编程的目标是提高自身的智能。一旦它做到了，它就会变得更聪明了 - 也许在这一点上它已经处于爱因斯坦的水平 – 所以现在当它用爱因斯坦级别的智力改善自身智力时，会变得更加容易，它可以实现更大的飞跃。这些飞跃使它比任何人类都聪明得多，并允许它实现更大的飞跃。随着飞跃变得越来越高并且发生得越来越快，AGI 在智能上飙升并很快达到 ASI 系统的超级智能水平。这被称为智力爆炸，并且它是加速回归法的最终例证。

关于人工智能将在多长时间内达到人类一般智能的问题还存在争议。对数百名科学家进行的一项调查显示，他们认为我们更有可能达到 AGI 的时候是 2040 年 - 那是 25 年后，这听起来并不那么近，直到你认为很多在这一领域的思想家认为这很可能是真的，并且从 AGI 到 ASI 的进展情况非常迅速。这可能真的会发生：

第一个人工智能系统需要几十年才能达到低水平的一般智能，但它最终实现了。计算机能够像四岁的人类一样开始理解周围的世界。突然间，在达到这个里程碑的一个小时内，该系统推出了统一广义相对论和量子力学的宏观物理理论，这是人类无法确定到的事情。在那之后的 90 分钟，人工智能变成了 ASI，比人类智能高出 17 万倍。

这种规模的超级智能远不是我们可以掌握的，不仅仅是一只大黄蜂无法理解凯恩斯主义经济学一样。在我们的世界中，聪明意味着智商为 130，而愚蠢意味着智商为 85 – 我们没有一个词形容 12，952 的智商。

我们所知道的是，人类在这个地球上的全面统治表明了一个明确的规则：智慧带来了力量。这意味着我们创造了一个 ASI 的时候，它将成为地球上生命历史中最强大的存在，包括人类在内的所有生物都将完全听从他的意愿 – 这很可能会在未来几十年内发生。

如果我们的大脑能够发明 wifi，那么比我们聪明 100 倍或 1000 倍或 10 亿倍的东西应该没有任何问题在任何时候以任何方式控制世界上任何一个原子的位置 – 我们所有的一切考虑就像魔法，我们想象的这种力量是至高无上的神，对于我们来说，翻转灯开关对于 ASI 来说是一项平凡的活动。创造技术以扭转人类衰老，治愈疾病和饥饿甚至死亡，重新编程天气以保护地球上的生命的未来 – 所有这些问题都都突然变得可能实现。也有可能是地球上所有生命的直接结束。就我们而言，如果 ASI 成为现实，那么现在地球上就会有一位无所不能的上帝 – 对我们来说，最重要的问题是：

它会是一个好神么

人工智能革命：人类是永生还是灭亡，我们拭目以待。