布雷克·琼斯(Blake Jones)于2019年底开始在MIRI学习,在完成奖学金后,他将全职加入MIRI研究团队!亚博体育官网Blake加入MIRI之前曾长期从事低层次软件系统的工作,如Solaris操作系统和Oracle数据库。亚博体育苹果app官方下载
其他米里更新
- MIRI研亚博体育官网究员Evan Hubinger在FLI播客(成绩单/讨论,音频)讨论“内部对齐、外部对齐以及构建安全先进人工智能的建议”。
- 凡妮莎·科索伊的修订版最优多项式时间估计:一种贝叶斯近似算法,与亚历克斯·阿佩尔(Alex Appel)合著的应用逻辑学杂志.
- 来自MIRI研究员A亚博体育官网bram Demski:荷兰-预订CDT:修改后的论点认为“因果”理论(使用反事实来评估期望值的理论)的行为必须与使用条件概率的理论相同。将HCH和逻辑归纳联系起来讨论在反思性神谕的背景下的放大。和激进的盖然论回顾了荷兰书的论点和贝叶斯规则之间令人惊讶的差距。
新闻和链接
- Alex Flint总结了人类兼容人工智能中心辅助游戏研究计划亚博体育官网.
- CHAI的Andrew Critch和MILA的David Krueger的释放人类存亚博体育官网在安全的人工智能研究考虑(arch),综述了29个人工智能(存在性)安全研究方向,每个方向都有一个说明性类比,当前工作的亚博体育官网例子和研究方向之间的潜在协同作用,并讨论了研究方法可能降低(或提高)存在性风险的方法。
- OpenAI的丹尼·赫尔南德斯和汤姆·布朗目前的证据“对于近期投资水平较高的人工智能任务,算法进步带来的收益超过了传统硬件效率”。
- DeepMind的维多利亚·克拉科夫娜(Victoria Krakovna)也有同感从2019冠状病毒病大流行中汲取的教训,以应对缓慢起飞的情况.
- AI Impacts的Daniel Kokotajlo讨论道在AGI到来之前,世界可能发生的变化.
- 80000个小时了他们认为有前途但没有列为优先职业道路的职业,包括资讯保安(以前这里讨论).