它是什么?:2016年10月14日在纽约大学举行的Eliezer Yudkowsky谈谈人工智能的伦理。会议由此举办纽约市中心,大脑和意识结合了纽约市生物伦理中心

视频AI的伦理:“AI和人类价值”部分(37分钟)

幻灯片没有过渡/随着过渡

抽象的:在直观预期的价值观,元值或简单任务方向上指向一个智能的人工剂,可能是什么可能是什么难题?简要概述AI对齐的根本困难以及你应该认真对待他们的原因。


注意/参考资料/学习更多信息。

会议上提出的一些相关材料:

  • 连贯的外推着作为一个对准目标第二AI曾经建造过。一个强大的ai,你对你对一致的目标保持一致的能力非常有信心,应该被要求做人类物种中每个人都会达成一致的人,如果我们知道AI的一切,并且像AI一样快地思考。
  • 外推着中兴作为法规的规范性叙述。
  • 智力爆炸微观经济学- 快速,大能力收益的情况。

聪明的人工智能主题的最佳概述是合理的尼克博斯特罗姆的超明和斯图尔特阿姆斯特朗的比我们聪明。有关较短的介绍,请参阅yudkowsky最近的客人帖子在Econlog。

Soares等人讨论了关机按钮问题。的“易燃“,首先由斯图尔特阿姆斯特朗研究。

观察到优化器的诅咒James E. Smith和Robert Winkler

有关正交最终目标和收敛工具策略的更多信息,请参阅Bostrom的“过度智力将会“(也转载在超明)。Benson-Tilsen和Soares'“正式化收敛工具目标“提供玩具模型。

SOARES'“讨论了微笑最大化器寓言。价值学习问题。“另请参阅「廉价页面边缘实例化背景灾难, 和最近的未阻止策略

看看miri常见问题并赠送报告高级AI潜在风险为了快速解释,为什么AI可能能够超越人类认知能力,以及其他主题。Bensinger当AI加速AI时注释预计能力加速的一般原因,同时“智力爆炸微观经济学“读到自我修改AI可能导致加速AI进展的具体问题。

Muehlhauser注意到计算机安全与AI对齐研究之间的类比亚博体育官网AI风险和安全心态

米里技术研究议程亚博体育官网总结了许多领域的核心开放问题。


电子邮件contact@www.hdjkn.com.如果您有任何疑问,请参阅亚博体育苹果app官方下载 有关协作AI对准项目的机会的信息。