我们的文章中增加了四篇旧文章亚博体育官网 ．
第一个是克里斯汀诺等人的早期草案。概率逻辑中“真理”的可定义性“以前讨论过在这里和在这里．草案最后一次更新是在2013年4月2日。
第二篇论文是一篇最初发表的文章的整理版本2012年12月——卢克·米尔豪泽和克里斯·威廉姆森写给《Less Wrong》:2012年12月——卢克·米尔豪泽和克里斯·威廉姆森写给《Less Wrong》:理想顾问理论与个人CEV．”
第三和第四篇论文最初是由Bill Hibbard发表在AGI 2012会议论文集:“AGI 2012会议论文集:“避免无意识的AI行为”和“安全人工智能设计的决策支持“Hibbard在成为MIRI研究助理之前就写了这些文章，但是他允许我们把这些文章包含在我们的研究页面上，因为(亚博体育官网1)他是在发表这些文章的AGI-12大会上成为MIRI研究助理的，(2)这些文章的部分灵感来自于一个公共对话与Luke Muehlhauser，(3)文章建立在MIRI的论文“公共对话与Luke Muehlhauser，(3)文章建立在MIRI的论文“智能爆炸和机器伦理．”
正如我们在2012年12月通讯，“避免意外的人工智能行为”获得MIRI颁发的最佳AGI安全论文图灵奖1000美元。这个奖项是为了纪念艾伦·图灵，他不仅发现了机器智能的一些关键思想，而且抓住了它的重要性，他写道:“似乎一旦[人类水平的机器思考]开始，不需要多久，我们的力量就会被超越……因此，在某个阶段，我们不得不期待机器会控制局面……”
