今天我们发布了一份内特·苏亚雷斯的新技术报告。价值学习问题“如果你们想讨论这篇论文，请讨论。在这里．
文摘:
超级智能机器不会自动按照预期行动:它会按照程序行动，但人类意图和正式规范之间的契合度可能很差。我们讨论了一些方法，通过这些方法可以构建一个系统来学习什么是亚博体育苹果app官方下载值得重视的。我们强调了归纳价值学习(来自有标记的训练数据)特有的开放问题，并提出了一些关于系统构建的问题，这些系统模拟了操作者的偏好并据此采取行动。亚博体育苹果app官方下载
这是描述和激励的六份新的主要报告中的最后一份MIRI目前的研究议程亚博体育官网在高水平上。
2016年5月29日更新:“价值学习问题”的修订版本(可于原始链接)已被IJCAI-16人工智能伦理研讨会接受。可以找到这篇论文的原始版本在这里．
