《智能爆炸微观经济学》出版

||论文

MIRI的新技术报告,由埃利泽·尤多科夫斯基撰写,长达93页。智能爆炸微观经济学,现已发行。这份报告解释了我们研究项目的一个未解决的问题。亚博体育官网文摘:

I. J. Good关于“智能爆炸”的论点是,一个足够先进的机器智能可以构建一个更智能的版本,而这个版本又可以构建一个更智能的版本,这个过程可以持续到远远超过人类智能。正如桑德伯格(2010)正确指出的那样,有几次尝试制定旨在代表经济或技术增长急剧加速的投资回报率公式,但很少有人试图以这种方式正式对待i.j.古德的智力爆炸理论。

我认为关键的问题是认知再投资的回报——投资更多的计算能力,更快的计算机,或改进的认知算法来产生更大的大脑,更快的大脑,或更好的思维设计的认知劳动的能力。从观察到的人类进化过程,到摩尔定律,再到机器国际象棋系统的能力,等等,世界上有许多现象被认为与这个问题有明显的关联。亚博体育苹果app官方下载我深入探讨了关于如何解释这些证据的争论。我建议,在分析情报爆炸的立场时,下一步应该是将投资回报曲线正式化,这样,每一种立场都可以正式地说,他们所持的哪些可能的微观基础被已经做出的历史观察证伪了。更广泛地说,我提出了多个开放的问题,如“认知再投资的回报”或“智力爆炸微观经济学”。虽然到目前为止这些问题还没有得到多少关注,但它们似乎与影响地球起源智能生命结果的政策选择高度相关。

公众讨论本研究的首选地点是亚博体育官网在这里.还有一个专门的技术讨论者邮件列表,您可以申请加入在这里