在2018年更新:我们新的研究方向亚博体育官网, Nate Soares讨论MIRI的新研究;亚博体育官网我们关注的是“去融合”;我们决定不披露新结果背后的一些想法;以及为什么会有比你想象的更多的人来加入MIRI团队!
另外,我们的2018年筹集资金从今天开始!首先,我们将参加三个不同的配对活动,都集中在11月27日的“捐赠星期二”;细节在我们的筹款帖子.
其他的更新
- 新的校准帖子:CDT的合理性条件是它等于EDT (1,2);标准ML oracle vs.反事实的oracle;用反事实可修正性解决三个问题;当EDT=CDT时,ADT表现良好.参见Paul Christiano的EDT与CDT (1,2).
- 嵌入式代理Scott Garrabrant和Abram Demski的完整序列结束了!这些帖子作为MIRI代理基金会研究的新核心介绍资源。亚博体育官网
- “有时人们会问我,为了进入经纪人基金会,他们应该学习什么数学。我的第一个答案是,我发现每个子领域的入门课程都很有帮助,但我发现后面的课程就没那么有用了。我的第二个答案是学习足够的数学来理解所有的不动点定理.... "在定点练习斯科特提供了进入MIRI代理基金会研究的练习。亚博体育官网
- MIRI正在为一个新的系列寻找申请者计算机科学家的人工智能风险研讨会它的目标是那些想要更深入思考人工智能对齐问题的技术人员。
新闻和链接
- Vox揭示将来完成时他们网站的一个新版块专注于有效的利他主义。
- 80000小时采访保罗global,包括讨论MIRI/Paul的分歧和Paul对人工智能结盟研究的方法。亚博体育官网
- 80000小时调查有效的利他组织他们的招聘需求。
- 来自克里斯蒂亚诺,巴克·施莱格里斯和达里奥·阿莫代:通过迭代放大学习复杂目标(arXiv纸).