寻求类型理论与机亚博体育官网自助参考研究员的研究

||新闻

该机器智能研究所(MIRI)正在接受申请的全职研究亚博体育官网员发展与自我指涉的能力定理证明,通过实施非常语言中强类型语言开始。该研究项目的目标是帮助我们理解自治亚博体育官网系统,可以证明有关与类似的演绎能力的系统定理。亚博体育苹果app官方下载申请人应在函数式编程语言编程经验,有与相关的类型,如阿格达,勒柯克,或精益语言的偏好。

美里是数学和计算机科学研究所专门从事长期AI的安全性和稳健性的工作。亚博体育官网我们的办公室是在加州伯克利,靠近加州大学伯克利分校的校园。yabo体育官网

在类型理论类型理论

我们这个项目的目标是构建工具对软件系统建模更好地反射推理,与我们的项目亚博体育苹果app官方下载造型中本身HOL4证明助手。有认为自我指涉的推理是不可能完全通用Gödelian原因。然而,不能完全一般性许多亟待解决的现实任务承认的有效多数为一般或启发式方法。人类,例如,肯定在很多情况下相信自己的推理成功。

有许多的工具,在现代定理证明缺失,这将是对学习的自我指涉的推理有帮助。其中首先是定理证明,可以构造有关软件系统,让使用非常相似的定理证明的证明。亚博体育苹果app官方下载要在强类型的编程语言构建这些工具,我们需要通过编写程序和证据,可以证明可以参考的相同的语言程序和证据的类型开始。

在类型论类型理论近来受到关注了相当数量。詹姆斯·查普曼的工作类似的方向推到我们想要的东西,因为是马特·布朗和延斯·帕尔斯伯格的,但这些项目还没有给我们,我们需要的工具。(F-ω是我们的目的太弱逻辑,像查普曼的方法没有得到我们的自我陈述。)

这是为了成为一个独立的研究项目,虽然可能会发生一些合作与其他研究人员。亚博体育官网我们的期望是,这将是一个多年的项目,但它是很难预测这个任务有多难是提前。它可能会更容易比它看起来,或实质上更加困难。

根据项目如何去,兴趣继续这个项目完成后,与我们合作的研究人员或许能够在亚博体育官网其他地区的合作,我们的亚博体育官网研究议程或提出自己的补充,我们的节目。

在MIRI工作

我们会尽力在美里工作一个很好的经验。下面是我们如何操作:

  • 现代的工作空间。我们很多人有大的外部显示器可调站在桌子。我们认为,工作空间的人体工程学设计的重要,并试图拼凑工作站是尽可能舒适。免费小吃,饮料和餐点也是在我们的办公室提供。
  • 灵活的工作时间。这是一个工薪位置。我们没有严格的办公时间,而我们没有限制员工的休假日。我们的目标是使在快速进步我们亚博体育官网研究议程,我们更希望研究人员休息一天比他们延长任务,填补额外的亚博体育官网一天。
  • 生活在湾区。美里的办公室位于伯克利市中心,加利福尼亚州。从我们的办公室,你是一个30秒步行到BART(湾区捷运),它可以让你周围的湾区;3分钟步行到加州大学伯克利分校校园;yabo体育官网并有30分钟的车程BART到旧金山市中心。
  • 旅行援助。如果需要协助办理签证是可用的。如果你正在向海湾地区,我们将讨论高达3500 $的搬家费用。我们还提供了一个公共交通通具有较大每月津贴。

这个职位工资面议,并配备了一流的医疗及牙科福利。

关于MIRI

美里是一个基于伯克利分校的研究非营利性研究人工智能亚博体育官网的基本问题。我们的目标是确保高质量的决策系统在未来的几十年产生积极的全球性影响。亚博体育苹果app官方下载MIRI研亚博体育官网究顾问和人工智能的先驱斯图尔特·罗素大纲几个原因有关高功能AI软件的关注:

  1. 效用函数可能与人类的价值,这是(最好)很难牵制完全一致。
  2. 任何足够能力的智能系统会优先保证自身继续存在,并获得物理和计算资源 - 不亚博体育苹果app官方下载为自己着想,但在其指定的任务取得成功。

被优亚博体育苹果app官方下载化的功能的系统ñ变量,其中目标取决于大小的一个子集ķ<ñ,往往会设置剩下的非约束变量,以极端值;如果这些无约束变量之一实际上是我们关心的东西时,发现的解决方案可能是极不可取的。

我们的重点是系统过于复杂和自主软亚博体育苹果app官方下载件开发者预见所有可能的状态的系统和它的环境可能演变成。采用这样的系统安全,软件工程师亚博体育苹果app官方下载需要理解的一个深层次的行为,并能够利用机器分析和验证技术,以确认高层次的系统性能。

MIRI是一家专门从事这一行的技术攻关的主要组织。亚博体育官网我们的工作是在引用亚博体育官网研究重点坚固有益人工智能报告,并在尼克·博斯特罗姆的已经讨论超级智能和拉塞尔和弱势族群的人工智能:一种现代方法

长期AI安全是研究的一个快速增长的领域,最近收到显著公众的注意。亚博体育官网我们现在研究的目的是提供亚博体育官网这一新的领域与理论基础,这将有助于指导今后的研究方向。

如何申请

点击这里申请。