美里更新
- MIRI的Eliezer Yudkowsky和Evan Hubinger请详细说明在Ajeya Cotra的缩小超人模型的案例.这个对话涉及到MIRI中一些更重要的对齐研究观点,例如对齐需要彻底理解AGI系统“幕后”的推理的观点,以及早期AGI系统最有可能的观亚博体育官网点亚博体育苹果app官方下载避免人类建模如果可能的话。
- 以利以谢Yudkowsky:关于所罗门诺夫归纳法的半技术导论对话.(还讨论了由理查德·非政府组织.)
- MIRI研亚博体育官网究员Vanessa Kosoy讨论了infra-Bayesianism人工智能x风险研究播客亚博体育官网
- 埃利泽·尤多科夫斯基和克里斯·奥拉讨论毫升透明度在社交媒体。
新闻和链接
- 布莱恩·克里斯蒂安,《对齐问题:机器学习和人类价值观,讨论了他的书在80000小时的播客上。
- Chris Olah的团队释放了人工神经网络中的多模态神经元这些人造神经元会对多个概念相关的刺激发出信号。
- Vitalik Buterin反思道不平衡在讨论的过程中,我们一直在讨论他的论点预测市场效率低下.