2016年1月通讯

亚博体育官网研究更新

• 一篇新论文:为HOL制作打样反射”
• 一个新的分析:安全工程，目标选择，对准理论
• 新IAFF:我们需要价值学习是为了什么?；修正Demski先验的严格优势；算术的反射概率分布和标准模型；期望-反思性和知道它的分布的存在；逻辑不确定性中的简明开放问题

一般更新

• 我们的冬天募款活动结束了!共有176人捐赠了351411美元，其中包括yabo体育官网下载ios一些意外的配对捐赠者。我们向你们所有人表示衷心的感谢。
• Jed McCaleb写道米里为何重要，安德鲁·克里奇(Andrew Critch)继续写道对MIRI方法进行规模化的需求．
• 我们参加了NIPS今年举办的“机器学习的社会影响”研讨会。维克多利亚Krakovna总结了她的印象．
• 我们搬到了一个更大的新办公室应用理性中心(CFAR)，离我们的旧公寓有几层楼高。
• 我们的纸公告现在有自己的MIRI博客类别。

新闻和链接

• ”21世纪的哲学家:包括人工智能安全研究亚博体育官网OZY．
• 山姆·奥特曼和埃隆·马斯克召集了领先的人工智能研究人员，成立了一个价值10亿美元的新非营利组织，亚博体育官网OpenAI．Andrej Karpathy解释了OpenAI的计划(链接)，奥特曼和马斯克提供了额外的背景(链接)．
• Alphabet董事长埃里克·施密特和谷歌创意总监贾里德·科恩写“建立最佳实践以避免人工智能产生不良后果”的必要性。
• 人类研究所(FHI)的新未来论文:学习无知的，不一致的主体的偏好”。
• 路加福音Muehlhauser和《每日电讯报》信号增强富士重工的人工智能安全工作公告(截止日期1月6日)寻求暑期实习生(截止日期1月10日)。
• CFAR正在运行匹配的资金筹集活动直到一月底。