剑桥人工智能手册已经被释放。其中有一章是由Nick Bostrom(牛津大学)和Eliezer Yudkowsky (MIRI)合著的，名为“人工智能的伦理”，PDF格式在这里．
抽象的写着:
创造会思考的机器的可能性引发了一系列伦理问题。这些问题既涉及到确保这些机器不会伤害人类和其他与道德相关的人，也涉及到机器本身的道德地位。第一部分讨论了人工智能在不久的将来可能出现的问题。第二部分概述了在智能接近人类时确保人工智能安全运行所面临的挑战。第三部分概述了我们如何评估人工智能本身是否具有道德地位，以及在什么情况下具有道德地位。在第四部分中，我们将考虑人工智能与人类在某些基本方面的不同，这些方面与我们对它们的道德评估有关。最后一节将讨论如何创造出比人类更聪明的ai，并确保它们将先进的智能用于好的方面而不是坏的方面。
