今天我们很荣幸地公开发布智能代理基金会论坛(RSS)，该论坛专门就上述研究问题进行技术讨论亚博体育官网MIRI的技术议程概述，以及类似的研究问题。亚博体育官网
帕特里克的受欢迎的文章解释道:
广义上来说，这个论坛的主题关注的是价值校准的困难——如何确保不同层次的机器智能充分理解和追求他们的开发人员实际打算的目标的问题，而不是为了实现真正的目标而受困于一些代理，或者在其他意想不到的(可能是危险的)方面失败。随着我们在构建机器智能方面进展得越快，这些故障模式就越具有破坏性，MIRI的目标是在目标系统和架构的基础上工作，即使机器智能拥有超越其开发者的一般创造性解决问题的能力，也能工作。亚博体育苹果app官方下载并有能力改造自己或培养接班人。
这个论坛已经私下活跃了好几个月了，所以已经发布了很多有趣的文章，包括:
- Slepnev,用模态不动点来形式化逻辑因果关系
- Fallenstein,效用无关和无限非概率驱动
- Benson-Tilsen,透明宇宙UDT的唯一性
- global,稳定的自我完善作为一个研究问题亚博体育官网
- Fallenstein,预测者不会试图操纵你(?)
- 苏亚雷斯,为什么“agent采取行动a”的条件条件还不够
- Fallenstein,模态UDT的实现
- LaVictoire,机器学习的建模目标稳定性
也看到如何做出贡献。
