Eliezer Yudkowsky以文本和视频的形式发表了关于人工智能安全的介绍性讲话:“人工智能对齐问题:为什么很难，从哪里开始。”其他重大新闻包括《ethical Aligned Design》第一版的发布，这是一份IEEE推荐文件，其中有一节是关于人工智能的，是我们参与起草的。亚博体育官网研究更新…阅读更多»
贴子:Rob Bensinger
新论文:“最优多项式时间估计”
MIRI研亚博体育官网究助理Vanessa Kosoy开发了一个新的逻辑不确定性下的推理框架，“最佳多项式时间估计:近似算法的贝叶斯概念。”摘要:“近似算法”的概念通常只适用于优化问题，因为在优化问题中，算法在任何给定输入上的性能都是一个连续参数....阅读更多»
2016年12月通讯
我们正在努力弥补资金短缺的最后几周，现在我们已经接近16万美元的目标的一半。人类未来研究所(FHI)的研究员欧文·科顿-巴拉特(Owen Cotton-Barratt)写了一篇文章，为那些对外部视角感兴趣的潜在捐赠者提供帮助。亚博体育官网(捐赠页面)。亚博体育官网研究更新在IAFF:…阅读更多»
2016年11月通讯
募款后更新:上个月末，捐款者聚集在一起，让我们基本上实现了第一个募款目标，但我们最终没有达到目标。这意味着，如果我们要推进2017年的计划，我们需要在下个月弥补剩下的16万美元缺口。我们处于有利位置…阅读更多»
白宫提交的人工智能安全报告
今年5月，白宫科学技术政策办公室(OSTP)宣布“举办一系列新的研讨会和一个跨部门工作组，以更多地了解人工智能的好处和风险。”他们在6月举办了一个关于人工智能安全与控制(视频)的研讨会，以及其他三个研讨会，并发布了一个一般的……阅读更多»
MIRI AMA，和一个关于逻辑归纳的演讲
内特，马洛，杰西卡，茨维和我将在明天的有效利他论坛上回答问题。如果你对我们的研究、计划或总体想法感到好奇，请在下方评论或Ask MIRI anything中提交你自己的亚博体育官网问题。我们还发布了一个更详细的版本…阅读更多»
2016年10月通讯
我们这个月的重大声明是我们的论文《逻辑归纳法》(Logical Induction)，它介绍了一种算法，这种算法可以学习分配合理的概率给数学的、经验的和自我参照的主张，其速度超过了推理。MIRI 2016年的筹款活动也是现场直播，持续到10月底。亚博体育官网研究更新Shtetl-Optimized和n-Category Café讨论“逻辑归纳”…阅读更多»
2016年9月通讯
亚博体育官网IAFF的最新研究:将先进AI系统的能力建模为情景强化学习;亚博体育苹果app官方下载我们这个月举办了两个研究研讨会:一个是针对长期合作伙伴和员工的决策理论老兵研讨会，另一个是针对一般化的环境目标、影响的机器学习研讨会……亚博体育官网阅读更多»
