MSFP是数学家和程序员在AI对齐问题上取得技术进步的一个扩展撤退。它包括对CFAR应用理性内容的概述，在MIRI视角下对人工智能安全的广度优先基础，以及与参与者和MIRI工作人员进行的多日的实际动手研究，以试图在开放性问题上取得进展。亚博体育官网
项目描述
该计划的目的是在四个相互重叠的领域尽可能提高参与者:
在人脑中进行理性研究:理解,与尽可能多的忠诚,现象和过程驱动和影响人类的思维和推理,这样我们就可以占到自己的偏见和盲点,更好的招聘和使用我们的大脑的各种功能,而且,一般来说,不太可能欺骗自己,掩盖我们的困惑,或者没有按照我们认可的价值观行事。
认识合理性，特别是周围技能的子集deconfusion．培养注意到这些点没有真正连接的技能;回答这个问题"为什么我们认为我们知道我们认为我们知道的东西?，尤其是涉及到对人工智能未来发展的预测和断言时。
基于目前围绕人工智能的研究现状亚博体育官网:了解该领域领导者之间的主要分歧，以及不同观点和主张的论据。理解当前的开放问题，以及为什么在不同的假设下，不同的问题似乎更紧迫或更真实。能够跟踪各种校准方案/理论/拟议的干预措施背后的推理，能够用仔细的推理和成熟(或至少比以前更成熟)的直觉来评估这些干预措施。
生成的研究技能亚博体育官网:能够在不丢失自身元认知的情况下，就人工智能对齐领域相关问题取得真正的相关进展。使用自己的心理工具，批评和改进自己的心理工具，并通过谈话、论文和模型让他人了解自己的进步或解构的并行过程。任何事情都需要成为这样的思想家:能够找到一个好问题，嗅出有希望的线索，并与他人和更广泛的研究生态系统进行有效合作。亚博体育官网亚博体育苹果app官方下载
CFAR在加州Bodega Bay的工作坊场地免费提供食物和住宿。参与者必须能够留在现场，在项目期间基本不受干扰(例如，在其他城市没有重要的约会，在项目结束后没有迫在眉睫的学术或专业截止日期)。
如果您有任何问题或意见，请发送电子邮件至colm@www.hdjkn.com或者，如果你怀疑其他人也会从听到答案中受益，就在这里发布。
2019年4月23日更新:申请截止日期为2019年3月31日，决赛选手将被MIRI工作人员联系进行1-2次Skype面试。录取决定——是、否、候补名单——将不迟于4月30日公布。
