剑桥人工智能手册已经被释放。它包含Nick Bostrom(牛津)和Eliezer Yudkowsky (MIRI)合著的一章，名为“人工智能的伦理”，PDF格式在这里．
抽象的写着:
创造会思考的机器的可能性引发了一系列伦理问题。这些问题既与确保这些机器不会伤害人类和其他道德相关的生物有关，也与机器本身的道德地位有关。第一部分讨论了人工智能在不久的将来可能出现的问题。第二部分概述了确保人工智能在接近人类智能时安全运行所面临的挑战。第三部分概述了我们如何评估人工智能本身是否具有道德地位，以及在何种情况下具有道德地位。在第四部分，我们考虑人工智能与人类在某些基本方面的不同，这些方面与我们对人工智能的道德评估有关。最后一部分讨论了创造比人类更聪明的人工智能的问题，并确保他们利用先进的智能做好事而不是做坏事。
