亚博体育官网研究更新
- ”CIRL框架中的不可纠正性: MIRI助理研究员Ryan Carey的一篇新论文，回应了Ha亚博体育官网dfield-Menell等人的“Off-Switch Game”。
- 新IAFF:《古德哈特的三层诅咒》；空调上的条件；稳定指针值:嵌入在自己的实用函数中的代理；密度零探索；自创生系统与AGI对齐的亚博体育苹果app官方下载困难
- 瑞安·凯里(Ryan Carey)将离开MIRI，与人类未来研究所(Future of Humanity Institute)的欧文·埃文斯(Owain Evans)在人工智能安全工作上合作。
一般更新
- 作为他在MIRI工程实习的一部分，Max Harms协助了建筑和扩建RL-Teacher，是一种开源工具，用于用人类反馈来训练人工智能系统，基于“亚博体育苹果app官方下载来自人类偏好的深度RL“OpenAI / DeepMind研究亚博体育官网合作。看到OpenAI的声明．
- MIRI首席运营官Malo Bourgon参加了关于如何做好事情的小组讨论(视频)及在人工智能领域工作(视频)参加了在旧金山举行的“有效利他主义全球”会议。人工智能影响研究人员K亚博体育官网atja Grace也谈到了人工智能安全(视频)．东亚运动会其他有关人工智能的讲座包括杜威(视频)及Owen Cotton-Barratt 's (视频)，以及一个更大的小组讨论(视频)．
- 诺贝尔文学奖宣布两名获奖者:劳伦斯·拉斐尔兄弟的Houseproud"和肖恩·哈尔巴赫的"知情人士”。
- 提高一个开发在线人工智能对齐课程材料的项目正在寻找志愿者。
新闻和链接
- 开放慈善项目正在接受一个人工智能学者计划“全力支持一小群在人工智能和机器学习领域最有前途的博士生”。参见Open Phil的部分列表主要研究亚博体育官网课题在人工智能对齐。
- 征稿启事: AAAI和ACM正在举办一场新的关于人工智能、伦理和社会的会议，截止日期为10月底。
- DeepMind的Viktoriya Krakovna认为人工智能安全研究的投资组合方法亚博体育官网．
- ”教人工智能系统自律亚博体育苹果app官方下载:一篇来自纽约时报在人工智能安全研究这个日益增长的领域。亚博体育官网的次也有一个开放人工智能领域的调查记者
- 加州大学伯克利分校的长期网络安全中心招聘多种角色，包括研究员，主管助理和项目经理。亚博体育官网
- 3.0生活:马克斯·泰格马克出版了一本关于人工智能未来的新书播客的讨论)．
