斯图尔特·阿姆斯特朗最近的人工智能控制头脑风暴

||新闻

Oxford_Stuart-Armstrong最近,MIRI赞助了牛津大学的研究员斯图尔特·阿姆斯特朗(St亚博体育官网uart Armstrong),让他单独休学,集思集想人工智能控制的新想法。这次头脑风暴产生了16个新的控制想法,有不同的实用性和润色。在过去的一个月里,他描述了每个新想法,并从他的索引帖子中链接了这些描述:新的人工智能控制想法

他还为每个AI控制想法命名,然后画一张图来表示(非常粗略地)这些新想法之间的联系。在下图中,箭头Y→X可以表示“X依赖于Y”,“Y对X有用”,“X在这个问题上补充了Y”或“Y启发了X”。下面划线的观点是斯图尔特目前认为最重要或发展的观点。

新的人工智能控制思想

此前,斯图尔特提出了人工智能控制的想法效用无差异这在MIRI的论文中扮演了一个角色可订正(Stuart是作者之一)。他还开发了人为决策理论还有一些想法减少影响人工智能甲骨文人工智能.他为确保先进人工智能的良好结果的战略和预测挑战做出了贡献,例如奔向悬崖我们是如何预测人工智能的.MIRI之前曾与他签约,让他写一本简短的书,向大众介绍超级智能控制挑战,比我们聪明