机器智能研究所(MIRI)迄今收到的最准确的媒体报道可能是亚博体育官网一块传奇科学作家卡尔齐默在《花花公子》．让你们知道有多不准确大多数我们的媒体报道是，这里引用(翻译)一些MIRI的报道法德纪录片：
然而，在旧金山，一个由年轻志愿者科学家组成的社会相信机器人的好处。多么天真!在[米里]…
这句话很有趣，因为机器智能研究所(Machine Intelligence Research Institute)十年来一直在说，人工智能亚博体育官网会默认情况下对人类有害的，那就是它极其困难的设计一个我们和其他任何人都不知道怎么做的“道德机器”，而且许多的方法因为这样或那样的原因，别人提出的建议是幼稚和不够的。
现在,在一块新为《星期日泰晤士报》， Bryan Appleyard写道:
在我看来，尤多科夫斯基对道德规范的理解过于简单化。“你不会杀死一个婴儿，”他对我说，暗示这是一种很容易被写入机器的规范。
“有些人会，”我指出，但他没有看到全部的意义。党卫军军官经常杀害婴儿，因为他们以纳粹主义的形式在社会上产生了调整。无论我们如何编程，机器都将从根本上远离人类的社会规范。
MIRI十年来一直在说，要让机器不杀死婴儿是极其困难的。事实上，我们的立场是，直接规划道德规范是行不通的，因为我们的价值观比我们意识到的要复杂得多．道德规范的直接规划是其他人提出了，我们批评了他们的立场。例如，这里有一段来自简洁的总结我们的研究项目亚博体育官网:
既然我们没有内省获得人类价值的细节,此问题的解决方案可能涉及到设计一个人工智能学习人类价值观通过观察人类,问问题,人类的大脑扫描,等等,而不是一个AI预装了一套固定的规则,听起来好点子。
但这并不意味着我们可以简单地让一些先进的机器学习算法观察人类的行为来学习我们的道德价值观，因为:
人类文明明确的道德价值观随着时间的推移发生了变化，我们将这种变化视为进步，并推断这种进步可能在未来继续下去。人工智能程序的显式值1800现在可能要努力重建奴隶制…可能引导算法包括“做我们会告诉你如果我们知道所有你知道的,”“我们已经告诉你如果我们想和你做的一样快,可以考虑更多的可能行道德论点,”和“做的如果我们有能力反思和改变自己，我们会告诉你怎么做。”在道德哲学中，这种道德进步的概念被称为反思性均衡。
继续……Appleyard的观点是“无论我们如何编程，机器都将从根本上远离人类社会规范”，这是MIRI从一开始就提出的另一个观点。参见“关于人格化的警告”创造友好的人工智能(2001)和“人工智能在全球风险中的积极和消极因素(写于2005年，2008年出版)。对我们来说，人工智能的思维设计将比电影中出现的外星人的思维更“外星”。
Appleyard继续说道:
(与MIRI相比)剑桥大学的研究小组对这些问题的理解要复杂得多。特别是普赖斯，他意识到机器不会受到社会要求其表现良好的压力。
“当你想到智能可能采取的形式时，”普莱斯说，“似乎有理由认为，我们只占据了那个空间的某个小角落，而某些东西可能在很多方面具有智能，而这些方面与我们的大脑完全不同。”
Appleyard似乎没有意识到的是，这里，Price基本上是在引用MIRI研究员Eliezer Yudkowsky长期强调的一个观点——有一个巨大的可能思维空间，而人类只占据了这个空间的一个很小的角落。亚博体育官网事实上，这一点与MIRI和Eliezer Yudkowsky的关系比与任何人都要密切!下面是另一段引用自尤多科夫斯基在2005年写的论文:
“人工智能”一词比“智人”一词的可能性要大得多。当我们谈论“ai”时，我们实际上是在谈论一般的思维，或一般的优化过程。想象一张心灵设计空间的地图。在一个角落里，一个小圈子里有所有的人类;在一个包含所有生物生命的更大的小圈子里;这张巨大地图的其余部分是一般意义上的思维空间。整个地图漂浮在一个更广阔的空间中，即优化过程的空间中……正是这种巨大的可能性使得拟人论不再是合理的推理。
所以，又有记者认为MIRI的立场是相反的。
当心你在流行媒体上读到的东西!
更新我把他的错误告诉Appleyard，他干脆否认他的文章在这个问题上犯了错误。
