AI安全的Chcai 亚博体育官网/ Miri研究实习

||消息

我们正在寻找夏季研究实习的才华横溢,驱动和雄心勃勃的技术研究人员亚博体育官网人类兼容的AI中心(CHCAI)和机器智能研究所(MIRI)。亚博体育官网

关于研究:亚博体育官网

Chcai是一名基于U亚博体育官网C Berkeley的研究中心,PIS包括斯图尔特罗素,Pieter Abbeel和Anca Dragan。Chcai将其目标描述为“开发概念和技术,以便重新定向AI研究对可怕的有益制度的一般推动”。亚博体育官网亚博体育苹果app官方下载

Miri是一家独立的研究非营利组织,位于UC 亚博体育官网Berkeley校区附近,使命有助于帮助智慧比人类的AI对世界产生积极影响。yabo体育官网

Chcai的研究亚博体育官网重点包括逆强化学习和人机合作的工作(关联),而Miri的焦点区域包括任务ai.和计算反思(亚博体育官网 )。这两个团体也对(有界)理论的理论感兴趣,这可能有助于我们发展对通用AI代理商的更深入了解。

申请:

1.填写此表格:https://goo.gl/forms/bde6xbbkwj1tgdbo1.

2.发送电子邮件Beth.M.Barnes@gmail.com.随着主题线“AI安全实习应用”,附加您的简历,您是主要作者的技术写作,以及您的研究提案。亚博体育官网

研究提案亚博体育官网应该是一到两页的长度。它应该概述一个问题,你认为你可以在夏天取得进步,以及解决你认为有前途的方法。我们建议阅读Chcai的注释参考书目具体问题议程如果您以前还没有这样做,那么在AI安全方面的开放问题的良好来源。

您应该以特定的研究议程或特定顾问的利益为目标您的提案。亚博体育官网顾问的利益包括:

安德鲁·骗子(chcai,miri):任何列入的东西Chcai的公开技术问题;可转让钢筋学习;具有透明源代码的代理游戏理论(例如,“计划均衡“ 和 ”Parametric LinedLöb的定理和有界代理的强大合作“)。

丹尼尔·菲纳(chcai):“基本问题”的内容“浮现”,“偏好推论”和“奖励工程”和“奖励工程”打开技术问题列表

迪伦哈菲尔德 - 梅奈尔(CHCAI):游戏理论分析在AI安全问题模型中的应用(来自理论经济学背景的人);制定和分析AI安全问题Cirl Games.;AI安全与委托 - 代理模型的关系/不完全承包的理论;机器学习可靠性工程;关于公平的问题。

杰西卡泰勒斯科特盖拉德坦特, 和Patrick Lavictoire.(Miri):Miri的打开问题代理基金会高级ML系统对齐亚博体育苹果app官方下载亚博体育官网研究议程。

此应用程序不会绑定您的提交的提案。其目的是展示您对如何在给定研究问题进行进展的具体建议的能力。亚博体育官网

我们正在寻找谁:

这是一个新的和有点实验计划。你需要自我指导,你需要有足够的知识来开始解决问题。主管可以为您提供研究指导,但他们不会教你的材料。亚博体育官网但是,如果您深受研究的激励,这应该是一个很棒的经历。亚博体育官网

成功的申请人将展示技术写作,动机和能力的示例,并产生具体的研究提案。亚博体育官网我们预计大多数成功的申请人将是:

•拥有或追求与AI安全密切相关的博士学位;

•在不相关的领域中拥有或追求博士学位,但目前枢转到AI安全,有足够的知识和激励对AI安全研究的证据;亚博体育官网或者

•是一个特殊的本科或大师级学生,具有与AI安全密切相关的区域中的研究能力(例如出版物或项目)的具体证据。亚博体育官网

后勤:

计划日期是灵活的,可能因个人而异。然而,我们的假设是,大多数人将在6月初开始十二个星期。

该计划将在旧金山湾区进行。将涵盖基本的生活费。我们不能保证住房将为您安排,但如果需要,我们可以提供帮助找到住房。

不是美国公民的实习生很可能需要申请J-1实习效鉴。一旦您被接受了,我们可以帮助您使用所需的文档。

截止日期:

申请截止日期是3月1.申请人应在3月20日至3月回复决策。