2017年3月通讯

亚博体育官网研究更新

• 新IAFF:诱导良性化的几个问题；纠缠的均衡和双胞胎囚徒的困境；决策理论的推广基础
• AI的新影响:人工智能安全领域资金的变化；人工智能研究资助亚博体育官网
• 麻省理工学亚博体育官网院研究员安德鲁·克里奇(Andrew Critch)在加州大学伯克利分校(UC Berkeley)开始了为期两年的研究人类兼容人工智能中心在那里帮助启动研究项目。亚博体育官网
• ”利用机器学习解决人工智能风险: Jessica Taylor通过介绍高性能ML系统的六个潜在问题来解释我们的AAMLS议程(视频和博客版本)。亚博体育苹果app官方下载

一般更新

• 为什么人工智能安全?:一个快速总结(最初张贴在我们的资金筹集活动)，包括说明我们的方法的特点和我们在该领域的目标。
• 内特·苏亚雷斯参加了设想和解决不利的人工智能结果，这是一场红队攻击者与防守者在各种人工智能风险场景中的对决。

新闻和链接

• Ray Arnold提供了一个有用的清单普通人帮助人工智能安全的方法．
• 新从OpenAI:用对抗性的例子攻击机器学习．
• OpenAI研亚博体育官网究员Paul Christiano解释了他对人类智慧的看法：

  我认为我的大脑是一台由强大的强化学习代理驱动的机器。RL代理选择思考什么想法，存储和检索哪些记忆，将我的注意力转移到哪里，以及如何移动我的肌肉。

  说话和深思熟虑的“我”是所实现的RL代理，但不同，有不同的信念和愿望。我的想法是RL代理的输出和输入，它们不是RL代理“从内部感受到的”。

• global描述三个方向和站人工智能控制:可靠性和鲁棒性，奖励学习，深思熟虑和放大。
• Sarah Constantin认为现有的技术不会扩大到人工智能缺乏重大的概念突破。
• 人类未来研究所和生存风险研究中心举办了一场坏演员和人工智能”研讨会。
• 富士重工是寻求实习生加强学习和人工智能安全。
• 迈克尔。米尔福德反对人脑-计算机接口作为人工智能风险策略。
• 慈善开放项目负责人霍尔顿·卡诺夫斯基解释了他为什么这么认为公共话语的好处更少比以前好多了。