更新
- MIRI研亚博体育官网究助理斯图尔特·阿姆斯特朗出价1000美元问一个甲骨文的人工智能好问题.
- 斯图尔特最近的人工智能安全帖子:无差异:多个更改,多个代理;理论间效用比较:例子;将公用事业正常化为支付意愿;和部分偏好重新审视.
- MIRI研亚博体育官网究人员巴克·施莱格里斯(Buck Shlegeris)已经整理了一个快速和非正式的人工智能安全阅读清单.
- 没有AGI的火灾警报一名研究人员在2017年1亚博体育官网月的预测中写道,“在未来两年里,我们将不会得到80%到90%”Winograd模式一个NLP测试。虽然这个预测是正确的,但是研究人员亚博体育官网微软,卡内基梅隆大学和谷歌Brain,脸谱网现在(2.5年后)的Winograd评分是89.0和90.4.
- 奥尔特加等人的"序列策略的元学习“包括一个台面优化的讨论,独立于Hubinger等人的。”先进机器学习系统中学习优化的风险亚博体育苹果app官方下载在“自发元学习”的标题下。
新闻和链接
- 魏戴了论坛参与作为研究策略亚博体育官网.
- 另外,这个月AI对齐论坛上的帖子非常好——我将一直关注它们。戴上写道决策理论研究的目的亚博体育官网;上沙学习偏差和奖励同时存在;终于在人工智能安全辩论及其应用;施泰纳在阿姆斯特朗议程和故意的立场;Trazzi上的人工智能;科恩在IRL和模仿;Manheim的优化和Goodhart效应(1,2,3.).
- 玉梁讨论人工智能管理在AI对齐播客上。
- CMU和Facebook研究人员的亚博体育官网两程序打败人类扑克专业人士-仅使用144美元在计算。开发人员也选择不发布代码“因为扑克是商业游戏,所以发布代码的风险大于收益。”
- 微软在OpenAI投资10亿美元.从微软的新闻稿:“通过这次合作,两家公司将加速在人工智能领域的突破,并为OpenAI创造人工通用智能(AGI)的努力提供动力。”OpenAI还发布了一篇关于“合作在负责任的AI开发中的作用”。
- 应该有了新的偏爱他们的工作介绍.参见Paul Christiano的应该:为什么重要和帮助的方法.
- 富士重工已经11个开放研究职亚博体育官网位;申请截止日期为8月16日。你也可以申请CSERAGI风险研究助理亚博体育官网职位8月26日。