机器智能研究所(MIRI)正在接受一名全职研究员的亚博体育官网申请，以开发具有自引用能力的定理证明者，首先在该语言中实现强类型语言。这个研究项目的目标是帮助我们理解能亚博体育官网够证明具有类似演绎能力的系统定理的自治系统。亚博体育苹果app官方下载申请人应该有函数式编程语言的编程经验，偏好依赖类型的语言，如Agda、Coq或Lean。
MIRI是一个专门从事长期人工智能安全和健壮性工作的数学和计算机科学研究机构。亚博体育官网我们的办公室在加州伯克利，靠近加州大学伯克利分校。yabo体育官网
类型理论中的类型理论
我们这个项目的目标是构建工具来更好地建模软件系统中的反射推理，就像我们的项目一样亚博体育苹果app官方下载在其内部建模HOL4证明助手．有Gödelian的理由认为自我参照推理是不可能完全一般化的。然而，许多现实世界的任务不能完全解决的普遍性承认大多数有效的一般或启发式方法。例如，人类在很多情况下都能成功地相信自己的推理。
在现代定理的证明中，有许多工具是缺失的，而这些工具将有助于研究自我参照推理。首先是定理证明者，它们可以利用一个非常相似的定理证明者来构造关于软件系统的证明。亚博体育苹果app官方下载要在强类型编程语言中构建这些工具，我们需要首先编写能够引用同一语言中程序类型和证明的程序和证明。
类型理论中的类型理论最近受到了相当多的关注。詹姆斯·查普曼的工作和我们想要的方向相似吗马特·布朗和延斯·帕尔斯伯格但是这些项目还没有给我们提供我们需要的工具。(对于我们的目的来说，F-omega是一个太弱的逻辑，而查普曼的方法不能让我们得到自我表征。)
这是一个独立的研究项目，虽然可能会与其他研究人员进行一些合作。亚博体育官网我们的预期是，这将是一个多年的项目，但很难事先准确预测这项任务有多困难。它可能比看上去容易，也可能比看上去困难得多。
根据项目的进展情况，有兴趣在项目完成后继续与我们合作的研究人员可能能够亚博体育官网在我们的其他部分进行合作亚博体育官网研究议程或者向我们的节目提出他们自己的补充内容。
在美里工作
我们努力让在MIRI工作成为一种很棒的经历。我们是这样操作的:
- 现代的工作空间。我们中的许多人都有可调节的站立式办公桌，配有大型外部显示器。我们认为工作环境的工效学很重要，并试图把工作场所布置得尽可能舒适。我们的办公室还提供免费的零食、饮料和膳食。
- 灵活的工作时间。这是一个领薪水的职位。我们没有严格的办公时间，也不限制员工的假期。我们的目标是在我们的亚博体育官网研究议程我们更愿意让研究人员休息一天，而不是让他们把任务延长一亚博体育官网天。
- 住在湾区。MIRI的办公室位于加州伯克利市中心。从我们的办公室，你只需步行30秒就能到达湾区捷运站(BART)，它可以让你在湾区四处游览;步行3分钟即可到达加州大学伯克利分校;yabo体育官网30分钟的捷运到旧金山市中心。
- 旅行援助。如有需要，可提供签证协助。如果你要搬到旧金山湾区，我们会为你支付高达3500美元的搬家费用。我们还提供公共交通通行证，每月津贴颇丰。
这个职位的薪水是可以商量的，而且还有最好的健康和牙科福利。
关于美里
MIRI是一家位于伯克利的非营利研究机构，研究人工亚博体育官网智能的基本问题。我们的目标是确保高质量的决策系统在未来几十年产生积极的全球影响。亚博体育苹果app官方下载MIRI研亚博体育官网究顾问、人工智能先驱斯图尔特·拉塞尔概述了对高能力人工智能软件的担忧有以下几个原因:
- 效用函数可能与人类的价值观并不完全一致，这是(最好的情况下)非常难以确定的。
- 任何有足够能力的智能系统都会倾向于确保自己的持续存在，并获取物理和计算资源亚博体育苹果app官方下载——不是为了它们自己，而是为了完成分配给它的任务。
一个亚博体育苹果app官方下载优化函数的系统n变量，其中目标取决于一个子集的大小k<n，通常会将剩余的未约束变量设置为极端值;如果这些无约束变量中有一个是我们真正关心的，那么所找到的解决方案可能是非常不理想的。
我们关注的是过于复杂和自治的系统亚博体育苹果app官方下载，软件开发人员无法预测系统及其环境可能演变成的所有可能状态。为了安全地使用这样的系统，软件亚博体育苹果app官方下载工程师将需要在更深的层次上理解它们的行为，并能够使用机器分析和验证技术来确认高级系统属性。
MIRI是专门从事这方面技术研究的主要组织。亚博体育官网我们的工作被引用在亚博体育官网强大和有益的人工智能的研究重点在尼克·博斯特罗姆的报告中讨论过超智拉塞尔和诺维格的人工智能:现代方法．
长期人工智能安全是一个快速发展的研究领域，最近受到了公众的高度关注。亚博体育官网我们目前的研究旨在为这一亚博体育官网新的领域提供理论基础，帮助指导未来的研究方向。
