2020年5月通讯

MIRI收到了一笔27.5万欧元的匿名捐款，由有效的给英国．此外，与Jaan Tallinn和Jed McCaleb合作的生存与繁荣基金也宣布了这一消息34万美元给MIRI．SFF是一个新的基金接手了BERI的大部分资助工作．

感谢所有参与这两个决定的支持我们研究的人!亚博体育官网

其他的更新

• 一个反对效用函数的正统案例: MIRI研亚博体育官网究员艾布拉姆·德姆斯基反对效用函数依赖于微观物理的“无所不在的观点”。
• 斯图亚特·阿姆斯特朗的“如果我是一个善意的人工智能……“序列从一个善意但无知的代理的角度来看待对齐问题。
• AI Impacts的Asya Bergal总结道“默认安全”研究人员的建议亚博体育官网．
• Agarwal和Norouzi报道离线RL的改进．
• 丹尼尔Kokotajlo的三种竞争力区分性能竞争、成本竞争和日期竞争的人工智能系统。亚博体育苹果app官方下载
• 的斯坦福哲学百科全书的新人工智能和机器人伦理文章包括对AGI存在风险的讨论。