斯图尔特阿姆斯特朗最近的AI控制头脑风暴

||消息

Oxford_Stuart-Armstrong.Miri最近赞助了牛津研究员Stuart Armstrong,亚博体育官网为AI控制进行了单独的撤退和头脑风暴的新想法。这种头脑风暴产生了16个新的控制理念,不同的有用性和波兰语。在过去的一个月中,他描述了每个新的想法,并将这些描述与他的索引帖子联系起来:新(ISH)AI控制理念

他还命名每个AI控制的想法,然后画出一张图片来表示(非常大致)如何互相相关的新想法。在下面的图片中,箭头y→x可以表示“x取决于y”,“y对x”是有用的,“x补充了这个问题的y”或“y激发x”。带下划线的想法是斯图尔特目前的法官是最重要或发展的。

甜点控制理念

以前,斯图尔特开发了一个控制的控制理念实用性漠不关心,这在Miri的论文中发挥着作用易燃(斯图尔特是一个共同作者)。他还开发了人类决策理论和一些想法减少影响ai.Oracle Ai.。他为策略和预测挑战造成了确保高级AI的良好成果的挑战,例如,在逃到悬崖我们如何预测AI或未能。Miri以前签约了他写一本短书向受欢迎的观众介绍了高度智能控制挑战,比我们聪明