“奇点假设”发表

||文件

奇点假设奇点假设:科学和哲学评估现在已由Springer发布,Springer和Ebook表格中。

这本书包含了20章关于机器超明的前景,包括Miri研究人员和研究员4章。亚博体育官网

“情报爆炸:证据和进口”PDF.)由卢克·迈翰万家和(以前的Miri研究员)Anna Salamon评论亚博体育官网

关于三个索赔的证据:(1)有一个大量的机会我们将在2100之前创造人级AI,即(2)如果创造人级AI,则会有一个很好的机会,超人艾美州将遵循一个“情报爆炸”,(3)一个不受控制的智力爆炸可能会摧毁我们所重视的一切,但如果我们能够实现它,受控情报爆炸会使人类受益。我们结束了建议,以增加相对于不受控制的智力爆炸的受控情报爆炸的几率。

“智力爆炸和机器伦理”PDF.)由卢克·穆罕帕尔和Louie Helm讨论了正式价值系统在AI中使用的挑战:亚博体育苹果app官方下载

许多研究人亚博体育官网员认为,自我改善的人工智能(AI)可能会比人类更强大,我们无法阻止它实现目标。如果是这样,如果ai的目标从我们来看,这可能对人类令人灾难性。一个建议的解决方案是编制AI的目标系统,以便在AI自我提升到控制它的能力之前想要我们想要的。亚博体育苹果app官方下载不幸的是,它是指指定我们想要的邪恶。在澄清我们的意思是“情报”,我们是一系列来自道德哲学领域的“直觉泵”,我们的结论是人类价值观是复杂的,并且指定DI FFI邪教。然后,我们调查了来自支持我们地位的动机心理学,道德心理学和神经经济学的迹象。我们通过推荐价值的理想偏好理论,作为开发适合导航智力爆炸或“技术奇异性”的机器道德的有希望的方法。

“友好的人工智能”通过Eliezer Yudkowsky是一款缩短版本Yudkowsky(2008)

最后,“人工综合情报和人体心理模型”PDF.)通过罗马yampolskiy和(Miri Research A亚博体育官网ssociate)约书亚福克斯评论了人为机器智能的危险:

当建立第一次人工综合智能时,他们可能会改善到遥远的人类水平。关于这种未来实体的猜测已经是受拟人偏见的FF,导致人类思想的错误类比。在本章中,我们应用了一个面向目标的对智力的理解,以表明人类只占据可能的思想的设计空间的小部分。这个空间远大于我们熟悉人类的实例;而未来的高度精神的心理架构和目标无需具有人类思想的大部分财产。一种新的认知科学和哲学的新方法,不需要在人类的例子中,以帮助我们了解我们在大于美国的力量时会面临的挑战。

书中还包括对大部分章节,包括埃利泽·尤多科斯基和(前MIRI职员)迈克尔Anissimov书面答复简单,关键的响应。