更新
- Ramana Kumar和Scott Garrabrant认为AGI安全团体应该开始优先考虑这些方法在没有人类模型的情况下也能很好地工作”:
从某种程度上说,人体模型是一个好主意,做得非常好是很重要的;从某种程度上说,这是一个坏主意,最好是根本不做。因此,是否要做人体模型是一个配置方面的问题,在构思构建安全AGI的方法时应该尽早确定。
- 新的研究亚博体育官网论坛帖子:游戏中的条件Oracle EDT均衡;Non-Consequentialist合作?;什么时候可以预订CDT荷兰语?;CDT = = UDT美国东部时间
- 的MIRI暑期奖学金计划正在接受申请直到三月底!MSFP是一个由MIRI和CFAR共同举办的为期两周的8月免费静修活动,旨在让人们及时了解相关问题嵌入式代理和人工智能对齐,训练研究相关的技能和习惯,并调查亚博体育官网该领域的开放问题。
- MIRI的增长主管Colm Ó Riain评论我们2018年的筹款活动进展如何。
- 从以利以谢Yudkowsky“除了对抗性和透明度,我认为‘保守主义’,或者试图将一切都作为插值而不是外推,这是现代ML可以探索的少数领域之一,我认为有潜力直接用于严重的AGI安全性。”
新闻和链接
- 埃里克·德雷克斯勒(Eric Drexler)发布了他的一本书长度的人工智能安全建议:重构超级智能:作为一般智能的综合人工智能服务.看到讨论彼得竟敢管,理查德的非政府组织,Rohin沙.
- 最近其他关于人工智能的帖子包括Andreas Stuhlmüller的认知因素和亚历克斯·特纳的通过可实现的公用事业保护惩罚影响,以及一系列由斯图亚特·阿姆斯特朗.