多年来，MIRI的目标一直是解决足够多的关于校准和智能的基本困惑，使人类能够清楚地思考技术人工智能的安全风险，并在这项技术发展到潜在的灾难之前做到这一点。这个目标对我们来说一直是困难的，但却是可能的。去年,我们……阅读更多»
贴子:内特苏亚雷斯
确保比人类聪明的智力有一个积极的结果
我最近在谷歌上做了一个关于让比人类更聪明的人工智能与操作者的目标相一致的演讲:这个演讲的灵感来自《人工智能对齐:为什么很难，从哪里开始》，是对人工智能对齐研究的一个分支领域的介绍。亚博体育官网以下是修改后的文字记录。演讲大纲(幻灯片):1。概述……阅读更多»
Post-fundraiser更新
我们在11天前结束了2016年的筹款活动。一开始进展缓慢，但我们的捐助者在最后一周聚集在一起，几乎使我们的最终总数翻了一番。最后，在六周的时间里，捐赠者筹集了589,316美元，这是我们迄今为止第二大的募捐活动。你们的支持让我很受鼓舞，而且……阅读更多»
美里的2016资金筹集活动
12月22日更新:我们的捐助者在筹款期间聚集在一起，帮助我们实现了75万美元的目标。共有251位捐赠者捐赠了589,248美元，这是迄今为止我们的第二大募资活动。虽然我们比我们的目标少了16万美元，但由于11月/ 12月的捐助者，我们已经弥补了这一缺口。我…阅读更多»
新论文:《逻辑归纳》
MIRI发布了一篇介绍演绎有限推理新模型的论文:“逻辑归纳”，作者是Scott Garrabrant、Tsvi Benson-Tilsen、Andrew Critch、我和Jessica Taylor。读者可以从节略版开始阅读。考虑一个背景，其中一个推理者正在观察一个演绎过程(比如一个数学家和计算机社区……阅读更多»
来自公开慈善计划的奖助金公告
今天有一项重大声明:开放慈善项目已在未来一年内向MIRI拨款50万美元，用于研究我们的代理基金会和机器学习研究议程中列出的问题，明年很有可能更新。亚博体育官网这是MIRI迄今为止最大的一笔赠款，也是我们的第二大单项捐款。紧跟着…阅读更多»
MIRI战略更新:2016年
这篇文章是Malo 2015年回顾的后续，概述了我们2016-2017年的新计划。简单地说，我们的首要任务(按重要性递减排列)是:(1)在我们已经确定的研究问题上取得技术进步，(2)扩大我们的团队，以及(3)与更广泛的研究团体建立更牢固的联系。亚博体育官网如先前所讨论的…阅读更多»
向OSTP提交人工智能成果
白宫科技政策办公室(White House Office of Science and Technology Policy)最近发布了一份关于“(1)人工智能的法律和治理含义;(2)为公益目的使用人工智能;(3)人工智能的安全和控制问题;(4)人工智能的社会和经济影响;”以及各种相关主题....阅读更多»
