11月23日更新:这篇文章是为了反映Scott从“归化世界模型”到“嵌入式世界模型”的术语变化而编辑的。关于这四个研究问题的完整介绍，请参阅Scott Garrabrant和Abr亚博体育官网am Demski的“嵌入式机构”。斯科特·加拉布兰特将接替内特·苏亚雷斯的工作，预测我们将在不同的研究中取得多大的进展。亚博体育官网阅读更多»
贴子:Rob Bensinger
2018年3月通讯
更新新的研究报告和讨论:亚博体育官网知识就是自由;稳定的价值指针II:环境目标;《技术解释》中的一种新的技术解释这是Sam Harris和Eliezer Yudkowsky的播客对话。Andrew Critch，前情提要…阅读更多»
山姆·哈里斯和埃利泽·尤多科夫斯基《人工智能:奔向悬崖》
MIRI高级研究员Eli亚博体育官网ezer Yudkowsky最近受邀做客Sam Harris的“Waking Up”播客。山姆是一名神经学家和流行作家，他的写作主题涉及哲学、宗教和公共话语。以下是Sam和Eliezer对话的完整文本:《AI: Racing Toward The Brink》。内容1。情报……阅读更多»
2018年2月通讯
我们在AAAI/ACM关于人工智能、伦理和社会的会议上提出了“CIRL框架中的不可纠正性”。来自MIRI研究员S亚博体育官网cott Garrabrant:直觉和数据的来源AGI新闻和链接在“对抗的领域”，Gilmer等人调查了测试之间的平衡…阅读更多»
2018年1月通讯
我们2017年的筹款活动非常成功，共有341名捐赠者捐赠了250万美元!一些最大的捐赠来自以太坊发明者Vitalik Buterin，比特币投资者Christian Calderon和Marius van Voorden，扑克玩家Dan Smith和Tom和Martin Crowley(作为配对挑战的一部分)，以及伯克利存在风险…阅读更多»
年终匹配的挑战!
2017-12-27更新:我们已经超过了我们的第三个也是最后一个目标，并达到了匹配挑战的300,000美元的匹配上限!非常感谢所有支持我们的人!所有在太平洋标准时间12月31日23:59之前捐款将继续计入我们的筹款总额。筹款总额包括来自…阅读更多»
2017年12月通讯
我们的年度筹款活动正在现场直播。在筹款帖子中讨论:新闻- MIRI的研究人员最近在做什么，以及更多。亚博体育官网目标:我们计划在2018-2019年将我们的研究团队增加亚博体育官网两倍。如果我们这个月筹到85万美元，我们认为我们可以做到这一点，而不会低于1.5年的跑道。实际目标——一个关于…阅读更多»
宣布“不平衡”
MIRI高级研究员Eli亚博体育官网ezer Yudkowsky今天出版了一本新书:不充分的均衡:文明在哪里以及如何陷入困境，讨论了社会功能失调、可利用性和自我评价。自序言:《不充分均衡》是一本关于有效市场的广义概念的书，以及我们如何利用这个概念来猜测社会将会在哪里……阅读更多»
