2018年9月通讯

张贴通过&归档于新闻稿.

夏季MIRI最新消息:巴克·什莱格里斯和本·温斯坦·劳恩加入了MIRI团队!除此之外,我们在暑期进行了一个成功的实习项目,我们还与CFAR共同举办了一个新的面向工程师的系列研讨会。在筹款方面,我们收到了来自长期未来基金的48.9万美元补助金,来自…阅读更多»

2018年8月通讯

张贴通过&归档于新闻稿.

更新新的帖子到新的人工智能联盟论坛:布里丹的屁股在协调游戏;概率是真实的,价值是复杂的;安全有效地观察AIs优化玩具世界的MIRI研究助理Vanessa Kosoy赢得了7500美元的“学习理论AI对齐研究议程”AI对齐奖。该奖的下一轮申请将…亚博体育官网阅读更多»

2018年7月通讯

张贴通过&归档于新闻稿.

更新了一篇新论文:“使用不完全模型进行预测”新的研究报告和讨论:建模成本的囚徒困境;反事实抢劫扑克游戏;优化放大了Elieze亚博体育官网r Yudkowsky、Paul Christiano、Jessica Taylor和Wei Dai讨论了Alex Zhu关于Paul研究议程的常见问题。我们参加了旧金山的EA Global,并就“分类变体…阅读更多»

新论文:“使用不完全模型进行预测”

张贴通过&归档于文件.

MIRI研亚博体育官网究助理Vanessa Kosoy发表了一篇关于自然归纳法问题的论文:“使用不完全模型进行预测”。翻译后摘要:我们考虑的任务,预测无限序列的未来观测基于一些过去的观测,其中概率测量产生的观测是“怀疑”,以满足一个或多个集合…阅读更多»

2018年6月通讯

张贴通过&归档于新闻稿.

更新新的研究报告和讨论:亚博体育官网逻辑感应器收敛到相关平衡(Kinda)MIRI研究员Tsvi Benson Tilsen和Alex Zhu为麻省理工学院的学生和校友举办了一个人工智能安全静修会。Andrew Critch讨论了给关注AI-x风险的初级研究人员什么样的建议,我澄清了关于MIRI战略观点的两点。来自Eliezer Yudkowsky:挑战…阅读更多»

2018年5月通讯

张贴通过&归档于新闻稿.

更新新的研究报告和讨论:亚博体育官网资源有限的反思神谕;计算AI影响新的精确量化政策:MIRI研究员Scott Garrabrant及其同事Stuart Armstrong和Vanessa Kosoy是AI校准奖第二轮的获奖者。第一名是汤姆·埃弗里特和马库斯·赫特的《对齐问题…阅读更多»

2018年4月通讯

张贴通过&归档于新闻稿.

更新了一篇新论文:“古德哈特定律的分类变体”新的研究报告和讨论:分布式合作;有限马尔可夫决策过程的量化控制——人工智能新影响:大脑中的亚博体育官网传输纤维:总长度和长度分布——米里代理基金会项目的研究负责人Scott Garrabrant概述了米里研究的重点领域和2018年的预测。斯科特在逻辑…阅读更多»

2018年亚博体育官网研究计划和预测

张贴通过&归档于MIRI策略.

更新11月23日:这篇文章被编辑以反映斯科特的术语从“自然世界模型”到“嵌入式世界模型”的变化,见斯科特·加拉布兰特和艾布拉姆·德姆斯基的“嵌入式机构”。斯科特·加拉布兰特正在接手内特·苏亚雷斯的工作,预测我们在不同的研究中会取得多大的进展…亚博体育官网阅读更多»