比尔希巴德道德的人工智能

发布通过&申请下对话

比尔·希巴德(Bill Hibbard)是威斯康星大学麦迪逊分校空间科学与工程中心的荣誉退休高级科学家,目前致力于人工智能安全和意外行为问题。他拥有威斯康星大学麦迪逊分校的数学学士学位、计算机科学硕士和博士学位。他是《超级智能机器》一书的作者,《避免意外…

Fallenstein在APS 2015年3月会议上的讲话

发布通过&申请下新闻

MIRI研亚博体育官网究员Benja Fallenstein最近在2015年3月德克萨斯州圣安东尼奥举行的美国物理学会会议上发表了演讲。她的演讲是人工智能特别会议四场演讲之一。Fallenstein的题目是“有益的比人类聪明的智慧:挑战和前进的道路”。幻灯片在这里。摘要:如今,人机水平的机器…阅读更多»

MIRI技术议程的新注释书目

发布通过&申请下新闻

今天,我们发布了一个新的注释书目与我们的新技术议程,由Nate Soares撰写。如果你想讨论这篇论文,请在这里讨论。摘要:超级智能系统如何与人类利益接轨?亚博体育苹果app官方下载这一注释参考书目汇编了一些最近的研究相关的问题,并将其分为六个主题:(1)…亚博体育官网阅读更多»

新的邮寄名单只适用于MIRI数学/CS试卷

发布通过&申请下新闻

根据要求,我们现在提供来自MIRI的新技术(数学或计算机科学)论文和报告的电子邮件通知。只需订阅下面的邮件列表。每一篇新技术论文都会发送一个电子邮件列表,其中只包含论文标题、作者和摘要,外加论文链接。

新报告:“价值学习问题”

发布通过&申请下论文

今天我们发布了Nate Soares的一份新技术报告,“价值学习问题”。如果你想讨论这篇论文,请在这里讨论。摘要:超级智能机器不会自动地按照预期行事:它会按照编程的方式行事,但人类的意图和正式规范之间的契合度可能很差。我们讨论的方法,通过…阅读更多»

一个改进的“AI冲击”网站

发布通过&申请下新闻

最近,MIRI收到了一笔有针对性的捐款,用于改善最初由MIRI频繁合作者Paul Christiano和兼职MIRI研究员Katja Grace创建的AI Impacts网站。亚博体育官网我们与Paul和Katja合作,将旧的内容移植到一个更健壮和可导航的平台上,并对内容进行了一些改进。你可以看到结果…阅读更多»