智慧的力量

在我们的头骨里，我们携带着大约3磅黏糊糊的、湿的、灰色的纸巾，像皱巴巴的卫生纸一样有波纹。你不会认为，看看这个没有吸引力的肿块，它是已知宇宙中最强大的物质之一。如果你从来没有看过解剖学教科书，你看到一个大脑躺在街上，你会说“恶心！”尽量不要让它沾到你的鞋子上。亚里士多德认为大脑是冷却血液的器官。不是这样的看危险。

500万年前，狮子的祖先统治着白天，狼的祖先在夜晚漫游。统治的掠食者装备着牙齿和爪子——锋利、坚硬的刀刃，由强大的肌肉支撑。它们的猎物为了自卫，进化出盔甲、尖角、毒液和伪装。战争经历了数百年的历史和无数次的军备竞赛。许多失败者被排除在比赛之外，但没有胜利者的迹象。一个物种有壳的地方，另一个物种会进化来破解它们；当一个物种变得有毒时，另一个物种就会进化到可以忍受这种有毒。每个物种都有自己的生态位——因为谁能同时生活在海洋、天空和陆地上？没有终极武器和终极防御，也没有理由相信任何这样的事情是可能的。

然后是粘糊糊的日子。

他们没有盔甲。他们没有爪子。他们没有毒液。

如果你看了一部关于核爆炸的电影，你被告知是一个地球生命体干的，你绝对不会在你最疯狂的梦里想象那些粘糊糊的东西可能是罪魁祸首。毕竟，粘糊糊的东西没有放射性。

一开始，这些粘糊糊的东西没有战斗机，没有机枪，没有步枪，没有剑。没有铜，就没有铁。没有锤子，没有铁砧，没有钳子，没有铁匠，没有地雷。所有粘糊糊的东西都是粘糊糊的手指——太虚弱了，连一棵树都不能折断，更别说一座山了。显然不危险。要切割石头，你需要钢铁，而那些粘糊糊的东西不能排出钢铁。在这种环境中，没有钢制刀片可以让粘糊糊的手指拿起。他们的身体不能产生温度接近热到足以熔化金属。整个场景显然是荒谬的。

至于那些操纵DNA的黏糊糊的东西——那就太荒谬了。黏糊糊的手指没那么小。从软软的层面看不到DNA；这就好像是在试图找到一个氢原子。哦，技术上都是一个宇宙，技术上粘糊糊的东西和DNA是同一个世界的一部分，同一个统一的物理定律，同一个因果关系的巨大网络。但现实一点：你不能从这里到那里。

即使粘糊糊的东西总有一天进化到完成这些壮举中的任何一项，都需要数千年的时间。我们已经观察了生命的起起落落，让我们告诉你们，一年甚至不是进化时间的一个时钟滴答声。哦，当然，技术上一年是六百万亿普朗克间隔。但在不到六亿次普朗克间隔的时间里什么都不会发生，所以这是一个没有意义的观点。这些粘糊糊的东西现在横穿稀树草原，至少再过一千万年也不会飞越大陆；没有人可能有那么多的性生活。

现在再向我解释一下，为什么人工智能不能在互联网上做任何有趣的事情，除非人类程序员把它建成一个机器人的身体。

我观察到，一个人对“智力”的畏缩反应——在听到“智力”这个词后的前半秒，他们脑海中闪过的想法——往往决定了他们对奇点的畏缩反应。他们通常会查找关键字“intelligence”并检索概念书市——一个无法约会的棋手大师，或者一个无法在学术界之外生存的大学教授的形象。

“要在职业上取得成功，需要的不仅仅是智力，”人们说，就好像魅力存在于肾脏，而不是大脑。他们说：“情报比不上枪”，仿佛枪长在树上。他们问：“人工智能从哪里得到钱呢？”好像是第一个智人他发现了从天上飘落下来的美元钞票，并在森林里的便利店里用过。人类不是在市场经济中诞生的。如果你给蜜蜂提供电子资金转账，蜜蜂不会卖给你蜂蜜。人类物种想象金钱的存在，它的存在——为了我们，不是老鼠或黄蜂，因为我们一直相信它。

我一直试图向人们解释，智力的原型不是达斯汀·霍夫曼雨人，它是一个人，句号。是粘糊糊的东西在真空中爆炸，在月球上留下脚印。在这个灰色潮湿的团块里，有一种力量，可以在因果关系的巨大网络中寻找路径，找到通向看似不可能的道路——这种力量有时被称为创造力。

人们——尤其是风险资本家——有时会问，如果机器智能研究所成功构建了一个真正的人工智能，结果会是怎样的亚博体育官网商业化。这就是我们所说的框架问题。

或许这比简单的假设冲突更深刻。有了一点创造性思维，人们可以想象他们将如何去月球旅行，或治愈天花，或制造电脑。想象一个可以完成所有这些事情同时发生似乎完全不可能——即使这样的力量只存在于他们眼睛后面几厘米的地方。灰湿的东西在灰湿的东西看来仍然很神秘。

因此，由于人们不太清楚这一切是如何运作的，智力的力量似乎不那么真实；比一座火塔把船送上火星还难想象。访问火星的前景吸引了人们的想象力。但是如果有人承诺火星之旅，还有一个大统一的物理学理论，一个对黎曼假说的证明，一个治疗肥胖，一个治疗癌症，一个治疗衰老，和一个治疗愚蠢的方法——好吧，这听起来是错误的，仅此而已。

应该是这样的。认为智力对这么少的人有益是想象力的严重失败。谁能想象，很久以前，有一天头脑会做什么？我们可能连知道我们真正的问题是什么。

但与此同时，由于很难看到一个过程如何具有如此多样化的能力，很难想象一下子就能解决肥胖、癌症和衰老等平淡无奇的问题。

嗯，有一个技巧治愈了天花，建造了飞机，种植了小麦，驯服了火。我们现在的科学可能还不同意这个把戏到底是怎么起作用的，但不管怎样它还是起作用的。如果你对一个现象暂时一无所知，那是关于你当前心理状态的事实，而不是关于这个现象的事实。空白地图与空白区域不对应。如果一个人不太了解在月球上留下脚印的力量，尽管如此，脚印仍然存在——真实的脚印，在真实的月球上，由一个真实的力量留下。如果一个人有足够深刻的理解，他就能创造和塑造这种力量。智力和电一样真实。它只不过是更强大、更危险，对宇宙中正在展开的生命故事有着更深刻的影响——而要想弄清楚如何制造一台发电机就有点困难了。