今天我们发布了MIRI技术研究议程的新概述。”亚博体育官网将超级智能与人类利益结合起来:一项技术研究议程亚博体育官网作者是内特·苏亚雷斯(Nate Soares)和本雅·法伦斯坦(Benja Fallenstein)。讨论该报告的首选地点是在这里．
报告开始:
人类塑造世界的特点不是力量，不是速度，而是智慧。除了灾难,显然,人工智能的进展有一天会导致创建代理达到或超出人类一般智力,这可能会导致系统的最终发展的“超智人”意义上的“比几乎每个领域最好的人类大脑聪明”(博斯特罗姆2014)……亚博体育苹果app官方下载
为了确保比人类更聪明的智能的发展对人类产生积极的影响，我们必须迎接三个艰巨的挑战:我们如何创造一个能够可靠地追求既定目标的代理?我们如何正式明确有益的目标?鉴于初始版本中的错误是不可避免的，我们如何确保该代理将协助和配合其程序员改进其设计?
本议程讨论了目前可处理的技术研究，作者认为这将使未来更容易面对这亚博体育官网三个挑战。第2节至第4节激励并讨论六个我们认为与这些挑战相关的研究主题。亚博体育官网第5节特别讨论了我们选择这六个领域的原因。
我们把可靠地追求有益目标的比人类更聪明的系统称为“与人类利亚博体育苹果app官方下载益一致”或简单地称为“一致”。要想确信一个代理以这种方式协调一致，仅仅满足上述挑战的实际执行是不够的。同样有必要从理论上理解为什么这种信心是合理的。该技术议程认为，目前已经有了基础研究，这将使未来开发一致的系统更加容易，并描述了在这些问题上正在进行的工作。亚博体育官网亚博体育苹果app官方下载
本报告还引用了六篇重要的支持性论文，对每个主要研究问题领域进行了更详细的阐述:亚博体育官网
2016年7月15日更新我们的综述论文计划在施普林格文集中发布《技术奇点:管理旅程2017年，在“机器智能与人类利益对齐代理基金会”的新标题下。新的标题是为了帮助区分这个议程和我们将与代理基金会议程同时进行的另一个研究议程:亚博体育官网高级机器学习系统的价值对齐亚博体育苹果app官方下载”。
