五个论纲,用简单的语言

||新闻

xkcd在桌子上一个最近xkcd漫画只用了1000个最常用的单词(英语)描述了土星5号火箭。这枚火箭被称为“上升五号”,液氢输送管道是“让湿冷空气进入燃烧的东西”。这激发了一位遗传学家上行五文本编辑器,这就要求你只能使用1000个最常用的单词。精神牙线最近收集的18个科学概念用这个限制来解释

这和米莉有什么关系?好吧,年轻的哲学家罗比Bensinger现在已经重写美里的五篇论文使用Up-Goer Five文本编辑器,得到了有趣的结果:

  • 智能爆炸如果我们制造一台电脑,它擅长在不同的情况下做困难的事情,而不使用太多的东西,它可能会帮助我们建造更好的电脑。由于计算机比人类快,很快计算机可能会完成制造新的更好的计算机的大部分工作。我们将有一段困难的时间来控制或理解发生了什么,因为新的计算机变得更快,并生长出越来越多的部件。当这些计算机没有办法快速、轻松地制造出更好的计算机时,最好的计算机在控制发生的事情方面已经比人类强得多了。
  • 正交性不同的电脑,不同的头脑,作为一个整体,会需要非常不同的东西。他们可能想要对人类有益的东西,也可能想要对人类有害的东西,或者介于两者之间。我们可以相当肯定,强大的计算机不会像人类那样思考,而且大多数可能的计算机不会试图像人类那样改变世界。
  • 收敛的工具性目标虽然大多数可能的头脑想要不同的东西,他们需要很多相同的东西来得到他们想要的东西。从长远来看,计算机和人类可能想要的东西彼此没有任何关系,但必须首先为获得这些不同的东西而争夺相同的份额。
  • 价值的复杂性当前位置要把大量的部件以正确的方式组合在一起,才能造出一台能做所有人类想让它做的事情(而且没有一件是人类不想让它做的事情)的计算机。
  • 脆弱的价值如果我们在其中的一些部件上出了一点差错,计算机可能会让糟糕的事情从那时起发生。我们需要几乎所有我们想要发生的事情,否则我们不会有任何乐趣。

这是所有。不客气