MIRI有两篇论文即将在AGI-15会议论文集中发表。第一篇论文，先前作为MIRI技术报告发布，是由Benja Fallenstein, Nate Soares和Jessica Taylor撰写的“Solomonoff归纳法和AIXI的反思变种”。第二篇论文“Two Attempts to Formalize Counterpossible Reasoning in Deterministic Settings”，作者Nate Soares和Benja Fallenstein，是一个…阅读更多»
贴子:路加福音Muehlhauser
剑桥大学决策理论会议上与miri相关的演讲
最近，MIRI在剑桥大学联合举办了一场题为“决策理论中的自我预测与人工智能”的会议。至少有六次会议的谈话直接讨论了MIRI技术议程中提出的问题:MIRI研究员Nate Soares(不久将成为执行董事)发表了题为“What is a What if?亚博体育官网(.pdf w/o notes， .pptx w/ notes)，关于理论…阅读更多»
热烈的告别和新任执行董事的到来
亲爱的支持者朋友们，关于MIRI的未来，我有一些重要的消息要和大家分享。鉴于我对做研究的热情，我很高兴接受了GiveWell的亚博体育官网一个研究职位。和MIRI一样，GiveWell的文化非常适合我，我相信他们在做重要的工作。我看……阅读更多»
关于反思神谕和代理的新论文
我们最近发表了两篇关于反思神谕和代理的新论文。第一本是本雅·法伦斯坦(Benja Fallenstein)、杰西卡·泰勒(Jessica Taylor)和保罗·克里斯蒂安诺(Paul Christiano)合著的《反思的神谕:经典博弈论的基础》(Reflective oracles: A foundation for classical game theory)。摘要:经典博弈论将玩家视为特殊的——游戏的描述包含所有玩家的完整、明确的列举——即使在现实世界中，“玩家”是……阅读更多»
Stuart Armstrong最近的AI控制头脑风暴
MIRI最近资助了牛津大学的研究人员斯图尔特·阿姆斯特朗，让他亚博体育官网独自休息，集思妙想人工智能控制的新思路。这次头脑风暴产生了16个新的控制理念，它们的实用性和润色各不相同。在过去的一个月里，他描述了每个新想法，并将这些描述与他的索引文章联系起来:新的(类似的)AI控制想法。他还命名了每个…阅读更多»
2014年回顾
现在是我回顾2014年MIRI的时候了。关于我们的下一个战略计划的帖子将在接下来的几个月里发布，在这次审查的最后，我已经包含了一些正在进行的项目的细节。自2013年初以来，MIRI的核心目标一直是帮助创建一个新的研究领域，致力于技术挑战……亚博体育官网阅读更多»
新报告:“Löb在MIRI研究中的定理简介”亚博体育官网
今天我们公开发布了Patrick LaVictoire的新技术报告，题为“Löb 's Theorem in MIRI Research”。亚博体育官网该报告的序言是这样开始的:这一解释性的说明致力于回答以下问题:为什么许多MIRI研究论文引用了1955年Martin的一个定理Löb，事实上，为什么MIRI如此关注…亚博体育官网阅读更多»
介绍智能代理基金会论坛
今天，我们很自豪地发布了智能代理基金会论坛(RSS)，一个专门讨论MIRI技术议程概述中概述的研究问题的论坛，以及类似的研究问题。亚博体育官网Patrick的欢迎帖子解释道:广义上说，这个论坛的主题是关于价值校准的困难——如何确保…阅读更多»
