Ramana Kumar和Scott Garrabrant认为AGI安全社区应该开始优先考虑“在缺乏人体模型的情况下工作良好的方法”:如果人体建模是一个好主意，那么把它做得非常好就很重要;从这是个坏主意的程度上来说，这是最好的…阅读更多»
贴子:Rob Bensinger
2019年1月通讯
我们去年12月的筹款活动非常成功，共有348名捐赠者捐出了超过95万美元。支持者利用了各种配对机会，包括雇主配对计划、WeTrust Spring的ethereon配对活动、Facebook的Giving Tuesday活动，以及职业扑克玩家Dan Smith、Aaron Merchak和Martin Crowley的Double Up Drive活动。总之,匹配……阅读更多»
2018年12月通讯
爱德华·克米特加入了MIRI团队!Edward是一位杰出的Haskell开发人员，他推广了函数式编程中透镜的使用，目前维护着许多围绕Haskell核心库的库。我还很高兴地宣布另一位新成员:James Payor。詹姆斯在软件公司Draftable工作3年亚博体育官网后加入MIRI研究团队。阅读更多»
发布新版《理性:从人工智能到僵尸》
MIRI出版了新版《理性:从人工智能到僵尸》，包括第一套R:AZ印刷版!《地图与领地》(第一卷)和《如何真正改变你的想法》(第二卷)今天出版了!地图和区域:$6.50 on…阅读更多»
MIRI的新成员:爱德华·克米特!
多产的Haskell开发者Edward Kmett加入了MIRI团队!Edward最出名的可能是在函数式编程中推广了镜头的使用。透镜是一种工具，它提供了一个组合词汇表，用于访问更大结构的部分，并描述您想用这些部分做什么。在镜头库之外，爱德华维护着……阅读更多»
2018年11月通讯
2018年更新:我们的新研究方向，Nate So亚博体育官网ares讨论MIRI的新研究;我们专注于“去融合”;我们决定不披露新业绩背后的一些想法;以及为什么比你想象的更多的人应该加入MIRI团队!此外，我们2018年的筹款活动今天开始!为了开始，……阅读更多»
2018年10月通讯
AI对齐论坛已经进入测试阶段!与此次发射相吻合，MIRI研究人员Scott Garrabrant和亚博体育官网Abram Demski将在未来一周发布一个新的序列，介绍我们的研究，从这里开始:嵌入式代理。(这里有简短的图解版本。)其他更新:论坛的新帖子:合作oracle;一厢情愿起作用时;(a→b)→a;…阅读更多»
2018年9月通讯
夏季MIRI更新:Buck Shlegeris和Ben Weinstein-Raun已经加入MIRI团队!此外，我们在这个夏天成功地开展了一个实习项目，我们正在与CFAR合作开展一个新的面向工程师的研讨会系列。在筹款方面，我们从长期未来基金(Long-Term Future Fund)获得了48.9万美元的拨款，从人工智能安全再培训计划(AI Safety Retraining Program)获得了15万美元的拨款……阅读更多»
