Miri更新
- Miri的Evan Hubinger使用优化电源的概念来定义AI系统是否是亚博体育苹果app官方下载兼容战略窃取假设。
- Miri的Abram Demski讨论了AI安全的辩论方法这不依赖于考虑因素。
- 埃文辩称第一个AGI系统可能与彼此非亚博体育苹果app官方下载常相似,并讨论对对齐的影响。
- 杰克克拉克导入AI时事通讯讨论了我们的负面研究结果亚博体育官网年末更新。
- 理查德非政府组织股份高质量的讨论他的伟大介绍性序列AGI安全从第一个原则Paul Christiano,Max Daniel,Ben Garfinkel,Adam Gleave,Matthew Graves,Daniel Kokotajlo,Will Macaskill,Rohin Shah,Jaan Tallinn和Miri的Evan Hubinger和Buck Shlegeris。
- 汤姆克里斯讨论理性社区和合理性:从AI到僵尸。(与标题相反,Covid-19几乎没有讨论。)
新闻和链接
- 亚历克斯弗林特辩称越来越多的AI对准研究人员的领域应该是优化“研究深度”的副作用,而不是用作自己亚博体育官网的右边的目标 - 随着软件项目不应针对更大的团队或更大的CodeBases优化。Flint还对战略/政策研究评论。亚博体育官网
- Daniel Kokotajlo的长期风险中心争辩说在GDP加速之前,AGI可以实现决定性的战略优势。CF.易于评论来自Eliezer Yudkowsky.。
- 泰安安全书目数据库:Jess Riedel和Angelica Deibel发布了AI安全研究的数据库,并分析了该领域的近期趋势。亚博体育官网
- DeepMind的AI安全团队调查荟牙RNN的最优性特性和篡改问题:“当所有反馈机制描述该目标的所有反馈机制都受代理商会影响的所有反馈机制时,我们如何设计追求特定目标的代理?”
- Facebook推出预测,一种类似于新的社区预测平台MetaClulus.。
- 有效的利他主义者已经发布了MicroCovid Calculator.是一个非常方便的工具,用于评估活动'Covid-19感染风险。与此同时,ZVI Mowshowitz对Lesswrong的每周更新继续成为一个良好的(以美国为中心的)资源,以遵守B117变体等Covid-19的发展。
- 重新思考优先事项研究员临川张总结了他学亚博体育官网到的东西2020年预测Covid-19:形成良好的外部观点通常很难;有效的利他主义者倾向于储备超级管家;等等。