更新12月22日我们的捐助人在筹款期间一起帮助我们实现了75万美元的目标。总共有251个捐助者捐款589248美元，使我们迄今为止的第二大筹款机构。虽然我们的目标缩短了160,000美元，但我们已经向11月/ 12月捐赠者弥补了这一缺口。我非常感谢这种支持，并将在未来一年的员工增长中相应地计划。
如我们所述post-fundraiser更新，我们仍然相当融资受限制。12月/ 1月yabo体育官网下载ios 将对我们2017-2018年的招聘计划和战略产生特别大的影响，因为我们试图评估我们的未来前景。对于一些外部认可的MIRI，作为一个好地方给这个冬天，看最近的评价丹尼尔杜威那尼克Beckstead那欧文Cotton-Barratt,本·洛杉矶。
我们的2016年筹集资金正在进行中!与往年不同的是，2016年我们只会举办一场筹款活动，从9月16日到10月31日。我们目前的进展(实时更新):
雇主的匹配和今年晚些时候的捐赠承诺也计入总数。yabo体育官网下载ios 要学习更多的知识。
MIRI是一个非营利研究组织，总部设在加亚博体育官网州伯克利。我们在数学和计算机科学方面进行基础性研亚博体育官网究，旨在确保比人类更聪明的人工智能系统对世界产生积极影响。亚博体育苹果app官方下载
2016年为Miri一直是一个大的一年，并为AI对准研究的更广泛的领域。亚博体育官网我们的2016年战略更新8月初审查了一些最近的发展：
- 一群由谷歌脑奥拉·奥拉亚博体育官网的研究人员和Openai的Dario Amodei发表了“AI安全的具体问题这是一系列可能在近期和长期安全问亚博体育官网题上都有影响的新研究方向。
- Dylan Hadfield-Menell, Anca Dragan, Pieter Abbeel和Stuart Russell发表了一个新的价值学习框架，合作逆钢筋学习，“ 和含义为可订正。
- Laurent Orsseau的谷歌深度和斯图尔特阿姆斯特朗人类学院未来受到了积极的关注新闻网点以及Alphabet的执行董事长Eric Schmidt.为他们的新论文“安全可中断的代理，部分由MIRI支持。
- Miri跑了一个为期三周的AI安全和鲁棒性研讨会和研讨会系列演讲嘉宾包括Stuart Russell、Tom Dietterich、Francesca Rossi和Bart Selman。
- 我们得到了30万美元的慷慨捐赠，扩大了我们的研究和运营团队。亚博体育官网
- 我们开始了新的研究议程。”亚博体育官网高级机器学习系统对齐亚博体育苹果app官方下载“这个议程将占据我们未来大约一半的时间，另一半专注于我们的代理基础议程。
我们还发表了决策理论和逻辑不确定性方面的新成果，包括“参数有界Löb的定理与有界代理的鲁棒合作“ 和 ”对真理问题的正式解决方案。“对于我们去年的研究进度和其他更新的调查，亚博体育官网请看看我们的2015年评论。
在过去三周内，又有三项重大进展:
- 我们发布了一篇新论文，“逻辑归纳，描述了一种学习为数学猜想和计算事实分配合理概率的方法，以一种超过演绎法的方式。
- 慈善开放项目授予Miri为期一年50万美元的补助金扩大我们的研究计划，明年有很强的亚博体育官网更新机会。
- 公开慈善项目正在支持新的UC Berkeley的推出人类兼容的AI中心，由Stuart Russell领导。
事情在过去九个月里速度快。如果我们能够复制去年的筹款成功，我们将处于出色的地位，向我们推动我们的计划，以发展我们的团队并规模我们的研究活动。亚博体育官网
的战略格局
人类比其他物种更善于改变环境以适应自己的喜好。这主要不是由于我们的力量或速度，而是由于我们智力，广泛地解释 - 我们的理性，计划，积累科学知识和发明新技术的能力。AI是一种可能对世界产生唯一影响的技术，因为它有可能自动化这些能力，最终果断地超越人类论相关认知指标。
除了构建智能计算机系统的任务之外，还有确保这些系统符合我们的价值观的任务。亚博体育苹果app官方下载调整一个人工智能系统需要克服许亚博体育苹果app官方下载多严重的技术挑战，其中大多数迄今为止没有得到相对较少的学术关注。从我们的角度来看，MIRI作为一个非营利组织在这个领域的作用是帮助解决部分问题大小不合适对于主流行业和学术群体。
我们的长期计划取决于AI领域的未来发展。由于这些发展非常不确定，我们目前主要关注我们希望在各种可能的场景中有用的工作。我们认为更乐观的情景通常看起来像这样：
- 在短期内，研究界会联合起来，对相关问题有一亚博体育官网个良好的原则性理解，并产生解决这些问题的正式工具。人工智亚博体育官网能研究人员朝着对最佳实践的最小共识前进，将人工智能的长期社会影响的讨论正常化，一种风险意识安全心态以及纠错公差和价值规范的工作。
- 在中期，研究人员在这些基础上建立并发展更亚博体育官网加成熟的理解。当我们走向更清晰的聪明的AI系统的往来可能看起来很可能看起来像 - 更接近一个可靠的路线图 - 我们想象研究社区走向增加的协调与亚博体育苹果app官方下载合作，以劝阻竞争动态。亚博体育官网
- 从长远来看，我们希望看到AI授权的项目（如杜威[2015]）用于避免主要的AI Mishaps。为此目的，我们希望解决有限AI系统的对齐问题的弱版本 - 仅能够充当防止AI事故和滥用的有用杠杆的系统。亚博体育苹果app官方下载
- 在非常长期来看，我们可以希望解决高能力，高度自主AI系统的“完整”对齐问题。亚博体育苹果app官方下载理想情况下，我们希望在我们达到科学和机构到期之前达到我们所能负担得起的职位 - 让我们的时间达到每一个人一世和十字架t在我们冒险“锁定”设计选择之前。
以上是一个模糊的草图，我们优先考虑我们认为在不太乐观的情景中有用的研究。亚博体育官网此外，这里的“短期”和“长期”是相对的，不同的时间线预测可以具有非常不同的政策影响。但是，素描可能有助于澄清我们希望看到研究社区进入的方向。亚博体育官网
有关我们的研究重点和方法，请参阅亚博体育官网我们的亚博体育官网 和Miri的方法。
我们的组织计划
我们目前雇佣了七名技术研究人员（六位研究员和一名助理研究员），以及两位研亚博体育官网究人员在未来几个月内签署，额外的六个研究员工和研究实习生。1我们今年的预算约为1.75亿美元，2015年的1.65亿美元和2014年950K。2
我们的最终目标（视为修订）是为了增长，直到我们在13至17份技术研究人员之间，此时我们的预算可能在3-4米的价格范围内。亚博体育官网如果我们在维持两年跑道的同时成功达成这一点，我们可能会退出增长模式。
我们2017年的预算估计数约为2-220万美元，这意味着我们正在与大约14个月的跑道进入这款筹款机。我们不确定将在11月和明年9月之间获得多少捐款，3.但从目前的趋势来看，我们预计总捐款的4/5来自筹款人，1/5来自非筹款人。4.基于此，我们有以下筹款目标:
基本目标是75万美元。我们对我们在这一资金水平执行我们的增长计划的能力感到乐意。我们将能够舒适地向前移动，尽管比在更高的目标中更加谨慎。
增长目标- 100万美元。这将达到大约半年的跑道。在这个级别，我们可以在我们的增长计划中提供更不确定但高预期的价值下注。如果我们雇用更多的雇用，我们将在2017年下降到2017年低于预期的风险，但我们捐助者基地的越来越大的支持将使我们对采取这种风险感到舒服。
拉伸目标 - 1,250,000美元。在这个级别，即使我们超越了我的增长期望，我们也能够在没有浸泡在一年的跑道下方的真正风险的情况下。过去1.25亿美元我们不会预计额外捐款会影响我们的2017年计划，假设适度的租金审查者支持。5.
如果我们达到了增长和延伸的目标，我们将能够更有信心地执行几个我们正在考虑的额外计划。这包括签约更多的研究人员与我们一起在逻辑归纳和机器学习议程上做早期工作，通常花更多的时亚博体育官网间进行学术拓展、领域发展，以及培训或试用潜在的合作者和雇员。
一如既往，如果您对即将到来的计划和最近的活动有疑问，您会邀请联系。我非常期待看到越来越多的对齐研究社区将在来年袭击哪些新的里程碑，而且我非常感谢周到的参与和支持，帮助我们达到了这一点。亚博体育官网
yabo体育官网下载ios
- 这不包括katja grace，他使用专门用于战略/预测研究的单独资金筹码负责人员。亚博体育官网它也排除了我：我促进了我们的技术研究，但我的主要作用是行政的。亚博体育官网↩
- 我们希望略低于1.825亿美元的预算之前的预算对于2016年，由于今年招聘的新研究人员少于预期。亚博体育官网↩
- 我们设想在未来的几年中继续每年举办一次筹款活动，可能是在9月份。↩
- 另外，慈善开放项目可能会更新我们的500,000美元的补助金我们预计将收到生命未来研究所(Future of Life Institute)的最后一笔款项(8万美元)为期三年的资助。
相比之下，2015年我们的营收约为160万美元:16.7万美元的赠款，96万美元的筹款捐款，以及467.7万美元的非筹款捐款(非赠款)。然而，2015年我们的情况有些不同:我们举办了两场2015年的筹款活动，而今年我们不举办冬季筹款活动，并建议12月份的捐赠者提前承诺或捐赠筹款活动。↩
- 在更高的资金水平上，我们会考虑运行其他有用的项目，如奖励基金。我拍一个电子邮件如果你想谈谈细节的话。↩
