所有MIRI出版物

用品

期刊文章会议/研讨会论文本书第一章技术报告和工作报告

最近出版和即将论文

ëHubinger,C面包车Merwijk,V Mikulik,J Skalse和S Garrabrant。2019年“在先进的机器学习系统中学习优化带来的风险亚博体育苹果app官方下载“。的arXiv:1906.01820 [cs.AI]。
V Kosoy。2019。”授权强化学习:学会在一点帮助下避免陷阱”,即将在ICLR的安全机器学习研讨会上发表。
A Demski和S Garrabrant。”嵌入式代理arXiv: 1902.09469 (cs.AI)。
阿姆斯特朗和明德曼,2018年。”奥卡姆剃刀不足以推断非理性行为者的偏好“。在神经信息处理系统的进展亚博体育苹果app官方下载31.
D Manheim和S Garrabrant。2018。”对古德哈特定律的各种变体进行分类“。的arXiv:1803.04585 [cs.AI]。

2017年

R凯里。2018。”循环框架中的不可替代性“。的arXiv:1709.06275 [cs.AI]。论文在人工智能,道德和社会AAAI / ACM会议。
Critch。2017。”朝向可协商强化学习:帕累托最优顺序决策的优先级转移“。的arXiv:1701.01302 [cs.AI]。
小号Garrabrant,T本森-Tilsen,A玛琳,N苏亚雷斯和J泰勒。2017年“对逻辑非全知问题的一种形式方法在第16届理性与知识的理论方面会议上发表的论文。
K Grace, J Salvatier, A Dafoe, B Zhang, O Evans. 2017。”人工智能何时能超越人类?人工智能专家提供的证据arXiv: 1705.08807 (cs.AI)。
V科索伊。2017年“使用不完全模型进行预测arXiv: 1705.04630 (cs.LG)。
N苏亚雷斯和B莱文斯坦,2020。”在大马士革逃避死亡”。即将在哲学杂志。在第14届正式认识论年度研讨会上发表。
ËYudkowsky和N苏亚雷斯。2017年“功能定位理论:工具理性的新理论arXiv: 1710.05060 (cs.AI)。

2016

Ť本森-Tilsen和N Soares的。2016年“将趋同的工具性目标形式化“。论文发表在AAAI 2016 AI,伦理与社会研讨会。
Critch。2016。”参数有界Lob定理与有界代理的鲁棒协作arXiv: 1602.04184 (cs: GT)。
小号Garrabrant,T本森-Tilsen,A玛琳,N苏亚雷斯和J泰勒。2016年“逻辑归纳arXiv: 1609.03543 (cs.AI)。
小号Garrabrant,T本森-Tilsen,A玛琳,N苏亚雷斯和J泰勒。2016年“逻辑归纳法(摘要)。" MIRI技术报告2016-2。
S Garrabrant, B Fallenstein, A Demski, N Soares. 2016。”归纳的一致性arXiv: 1604.05288 (cs: AI)。先前发表为“一致一致性”。
S Garrabrant, N Soares, J Taylor. 2016。”具有无限时滞的在线学习的渐近收敛性arXiv: 1604.05280 (cs: LG)。
起诉科索伊和上诉,2020年。”最优多项式时间估计器:贝叶斯近似算法的概念arXiv: 1608.04112 (cs.CC)。即将在[应用逻辑的
J Leike, J Taylor和B Fallenstein。2016。”真实感问题的一种形式解决方案在第32届人工智能不确定性会议上发表的论文。
L Orseau和S Armstrong, 2016。”安全可中断的代理在第32届人工智能不确定性会议上发表的论文。
ķSotala。2016年“为价值学习者定义人类价值“。论文发表在AAAI 2016 AI,伦理与社会研讨会。
J泰勒。2016。”量子化器:对有限优化而言,量子化器是一个比最大化器更安全的选择“。论文发表在AAAI 2016 AI,伦理与社会研讨会。
Ĵ泰勒,E Yudkowsky,P LaVictoire和A玛琳。2016年“对齐方式先进的机器学习系统亚博体育苹果app官方下载MIRI技术报告2016-1。

2015年

B Fallenstein和R Kumar, 2015。”HOL的生成验证反射:用于建模多态的应用程序“。在交互式定理的证明:第六届国际会议,ITP 2015,中国南京,2015年8月24-27日,论文集。斯普林格。
乙Fallenstein和N Soares的。2015年“Vingean反思:自我改进代理的可靠推理MIRI技术报告2015-2。
B Fallenstein, N Soares, J Taylor. 2015。”Solomonoff感应和AIXI的反射变异体“。在AGI 2015诉讼程序。不可靠的人。之前发表为MIRI技术报告2015-8。
乙Fallenstein,J泰勒和P克里斯蒂。2015年“反思神谕:古典博弈论的基础“。的arXiv:1508.04145 [cs.AI]。此前公布的MIRI技术报告2015-7。出版删节形式“反思神谕:人工智能博弈论的基础“在萝莉2015年的论文集
S Garrabrant, S Bhaskar, A Demski, J Garrabrant, G Koleszarik, E Lloyd. 2016。”渐近逻辑不确定性与本福德检验arXiv: 1510.03370 (cs.LG)。在人工一般智能第九届会议上发表的论文。之前发表为MIRI技术报告2015-11。
K。2015。”阿西洛玛会议:减少风险的个案研究“。MIRI技术报告2015-9。
P LaVictoire。2015年“MIRI研究中Lob定理的介绍亚博体育官网MIRI技术报告2015-6。
N苏亚雷斯。2015。”将超级智能与人类兴趣相结合:一个带注释的参考书目MIRI技术报告2015-5。
N苏亚雷斯。2015。”形式化现实世界模型的两个问题MIRI技术报告2015-3。
ñ苏亚雷斯。2018年“价值学习问题“。在人工智能安全和安保。查普曼和大厅。曾在IJCAI 2016人工智能伦理研讨会上发表,并作为MIRI技术报告2015-4发表。
N Soares和B Fallenstein. 2015。”推理的逻辑下的不确定性问题MIRI技术报告2015-1。
N Soares和B Fallenstein. 2015。”趋向于理想化的决策理论“。的arXiv:1507.01986 [cs.AI]。此前公布的MIRI技术报告2014-7。出版删节形式“两次尝试将确定性背景下的反可能推理形式化“在AGI 2015诉讼程序
ķSotala。2015年“概念学习安全自主AI在AAAI 2015伦理与人工智能研讨会上发表的论文。

2014

S阿姆斯壮,K索塔拉,S海格泰格。2014年“该错误,洞察力和著名的AI预测的教训 - 和他们的意思为未来“。人工智能实验与理论杂志26(3): 317 - 342。
star_icon
M Barasz, P Christiano, B Fallenstein, M Herreshoff, P LaVictoire, E Yudkowsky. 2014。”囚徒困境的稳健合作:可证明逻辑下的程序均衡arXiv: 1401.5577 (cs.GT)。
T Benson-Tilsen。2014年“已知搜索顺序的UDTMIRI技术报告2014-4。
N Bostrom和E Yudkowsky, 2018。”人工智能的伦理“。在人工智能安全和安保。查普曼和大厅。先前发表在人工智能的剑桥手册(2014)。
P克里斯蒂亚诺。2014年“非全知,概率推断,和元数学MIRI技术报告2014-3。
B Fallenstein。2014。”在概率逻辑上的拖延工作报告。
star_icon
B Fallenstein and N Soares. 2014。”在自我改进的时空嵌入式智能自我参照的问题“。在AGI 2014诉讼程序。不可靠的人。
B Fallenstein and N Stiennon. 2014。”“响度”:在先验过偏好关系简短的技术说明。
P LaVictoire,B Fallenstein,E Yudkowsky,男Bárász,P克里斯蒂和M Herreshoff。2014年“通过Lob定理在囚徒困境中的程序均衡在AAAI 2014多智能体交互而不需要事先协调研讨会上发表的论文。
L Muehlhauser和N Bostrom, 2014。”为什么我们需要友好的人工智能“。认为13(36): 42-47。
L Muehlhauser和B Hibbard, 2014。”探索工程AI“。ACM的通信57(9):尺码。
C Shulman和N Bostrom, 2014。”增强认知的胚胎选择:好奇还是游戏规则改变者?全球政策5(1): 85 - 92。
N苏亚雷斯。2014。”因果图中的平铺代理MIRI技术报告2014-5。
Ñ苏亚雷斯和B Fallenstein。2014年“Botworld 1.1MIRI技术报告2014-2。
苏亚雷斯和法伦斯坦,2017。”将机器智能与人类利益对齐的代理基础:一项技术研究议程亚博体育官网“。在该技术奇点:管理之旅。不可靠的人。此前曾以《让超级智能与人类利益结盟:技术研究议程》的名义,作为MIRI 2014-8年技术报告发表。亚博体育官网
N Soares, B Fallenstein, E Yudkowsky, S Armstrong. 2015。”可订正在AAAI 2015伦理与人工智能研讨会上发表的论文。之前发表为MIRI技术报告2014-6。
ËYudkowsky。2014年“分配允许分层主观欧盟最大化MIRI技术报告2014-1。

2013

star_icon
一个牵牛星。2013年。“决策算法对Newcomblike问题的比较工作报告。美里。
S阿姆斯特朗,N博斯特罗姆和C舒尔曼。2015。”《奔向悬崖:人工智能发展模式“。AI与社会(DOI 10.1007 / s00146-015-0590-7):1-6。此前公布的人类研究所技术报告2013-1的未来。
star_icon
P克里斯蒂,E Yudkowsky,男Herreshoff和MBárász。2013年。“概率逻辑中“真”的可定义性”草案。美里。
B Fallenstein。2013。”5- 10问题和平铺代理的形式主义MIRI技术报告2013-9。
B Fallenstein。2013。”在参数多态的一种形式化中降低数学强度简短的技术说明。美里。
B Fallenstein。2013。”一个无限下降的健全的理论序列,每个证明下一个一致MIRI技术报告2013-6。
B Fallenstein and A Mennen, 2013。”预测AGI:当我们知道这么少的时候,我们能说什么呢?“工作报告。美里。
ķ格雷斯。2013年。“在六个领域算法的研究进展MIRI技术报告2013-3。
J哈恩。2013。”概率元数学中的科学归纳法MIRI技术报告2013-4。
L Muehlhauser。2013。”智能爆炸常见问题解答工作报告。美里。(超文本标记语言
star_icon
L Muehlhauser和L Helm, 2013。”智能爆炸和机器伦理“。在奇异假说。不可靠的人。
star_icon
L Muehlhauser and A Salamon. 2013。”智能防爆:证据和导入“。在奇异假说。不可靠的人。(西班牙语)(法语)(意大利语
L Muehlhauser和C Williamson, 2013。”理想的顾问理论与个人CEV工作报告。美里。
W Sawin和A Demski, 2013。”可计算的概率分布收敛于Π相信如此1句子会不信真Π2句子MIRI技术报告2013-10。
N苏亚雷斯。2013。”Fallenstein的怪物MIRI技术报告2013-7。
K Sotala和R Yampolskiy, 2014。”应对巨灾风险AGI:综述“。物理学SCRIPTA90(1): 1-33。之前发表为MIRI技术报告2013-2。
N施奈尔。2013。”递归定义的逻辑理论是定义良好的MIRI技术报告2013-8。
R Yampolskiy和J福克斯,2013。”人工一般智能与人类心理模型“。在奇异假说。不可靠的人。
R Yampolskiy和J福克斯,2013。”人工通用智能的安全工程“。Topoi32(2):217-226。
star_icon
E Yudkowsky。2013。”智能爆炸微观经济学MIRI技术报告2013-1。
E Yudkowsky。2013。”拖延悖论简短的技术说明。美里。
E Yudkowsky和M Herreshoff, 2013。”平铺剂自修改AI和Löbian障碍”草案。美里。

2012

star_icon
2012年,S阿姆斯特朗和K索塔拉。”如何我们预测AI - 或不“。在超越人工智能:人工梦。皮尔森:西波西米亚大学。
希巴德。2012。”避免意外的AI行为“。在2012年AGI法律程序。不可靠的人。
希巴德。2012。”决策支持安全AI设计“。在2012年AGI法律程序。不可靠的人。
L Muehlhauser。2012。”AI风险参考文献2012工作报告。美里。
《A Salamon and L Muehlhauser》2012。”奇点峰会2011研讨会报告工作报告。美里。
Ç舒尔曼和N博斯特伦。2012“。人工智能有多难?进化论证和选择效应“。意识研究杂志19日(7 - 8):103 - 130。
K Sotala。2012。”人工智能、上传和数字思维的优势“。国际期刊机床意识4(1): 275 - 291。
ķSotala和H Valpola。2012“。联合思维:与大脑上传相关的群体思维场景“。国际期刊机床意识4(1): 293 - 312。

2011

普勃朗出版社,2011年。”在人工坐席价值体系本体论危机亚博体育苹果app官方下载arXiv: 1105.3821 (cs.AI)
D杜威。2011。”学会珍惜什么“。在2011年AGI法律程序。不可靠的人。
E Yudkowsky。2011。”实现有价值的未来需要复杂的价亚博体育苹果app官方下载值系统“。在2011年AGI法律程序。不可靠的人。

2010

J福克斯和C舒尔曼,2010。”超级智能并不意味着仁慈“。在2010年ECAP程序。博士-小屋。
S Kaas, S Rayhawk, A Salamon, and P Salamon. 2010。”软件思维的经济含义“。在2010年ECAP程序。博士-小屋。
A Salamon, S Rayhawk和J Kramar。2010年。“智慧有多容易理解?“在2010年ECAP程序。博士-小屋。
C舒尔曼。2010。”Omohundro的“基本人工智能驱动”和灾难性风险工作报告。美里。
C舒尔曼。2010。”全脑模拟和超级生物体的进化工作报告。美里。
C舒尔曼和一个桑德伯格,2010。”一个软件有限公司奇异的启示“。在2010年ECAP程序。博士-小屋。
K Sotala。2010。”从大多无害文明威胁“。在2010年ECAP程序。博士-小屋。
ñ塔尔顿。2010年。“连贯外推的意志:机器伦理的元层次方法工作报告。美里。
E Yudkowsky。2010。”永恒的决策理论工作报告。美里。
E Yudkowsky, C Shulman, A Salamon, R Nelson, S Kaas, S Rayhawk,和T McCabe。2010年。“从人工智能减少长期巨灾风险工作报告。美里。

2001 - 2009

P de Blanc, 2009。”通用人工智能期望效用的收敛arXiv: 0907.5598 (cs.AI)。
小号Rayhawk,A萨拉蒙,男Anissimov,T麦凯布和R纳尔逊。2009年。“改变AI未来主义的框架:从讲故事到重尾,高维概率分布”在二零零九年环保工作会议上提交的文件。
ç舒尔曼和S阿姆斯特朗。2009年。“军备控制和情报爆炸”在二零零九年环保工作会议上提交的文件。
Ç舒尔曼,H琼森和N塔尔顿。2009年。“机器伦理和超级智能“。在AP-CAP 2009的程序。东京大学。
C Shulman, N Tarleton, H Jonsson, 2009。”结果论?机器伦理与道德分歧“。在AP-CAP 2009的程序。东京大学。
E Yudkowsky。2008。”人工智能是一个积极的和消极因素在全球风险“。在全球灾难性的风险。牛津大学出版社。出版删节形式为“友好人工智能”中奇异假说。(官话)(意大利语)(한국어)(葡萄牙商业银行)(Pусский
E Yudkowsky。2008。”认知偏差可能影响全球风险的判断“。在全球灾难性的风险。牛津大学出版社。(意大利语)(Pусский)(葡萄牙语
E Yudkowsky。2007。”一般智力的组织水平“。在人工通用智能(认知技术)。不可靠的人。
ËYudkowsky。2004年。“相干外推意志工作报告。美里。
E Yudkowsky。2001。”创建友好的AI 1.0:仁慈的目标架构的分析和设计工作报告。美里。

注册获得新的MIRI技术结果的更新

每发表一篇新的技术论文就会得到通知。

平衡覆盖不足

不充分的平衡:文明在哪里和如何陷入困境

E Yudkowsky (2017)

当你要认为你可以做一些事情异常吗?当你试图超越在给定的区域,这一点很重要,你有你的相对竞争力的一个清醒的认识。这个故事只是到此为止,但是,如果你有幸生活在一个足够的文明。

以利以谢Yudkowsky的不平衡对于那些质疑何时、如何能比现状更好地了解、做得更好的人来说,这本书是一本尖锐而生动的指南。尤多科夫斯基将理性决策的基础与日常生活的建议自由地结合起来,探讨了一个核心问题:我们何时能够(和不能够)期望发现系统性的低效,并加以利用。亚博体育苹果app官方下载

RationalityCover

理性:从人工智能到僵尸

E Yudkowsky (2015)

当人类的大脑尝试做事时,他们会遇到一些非常奇怪的问题。自欺、偏颇、奇思妙想——有时我们的聪明才智似乎是无限的,当我们要搬起石头砸自己的脚时。

地图和领土剩下的理性:从人工智能到僵尸系列问什么“武术”的理性会看起来像。在这个系列中,Eliezer Yudkowsky解释了认知科学的发现,以及自然主义哲学的观点,这有助于为理解MIRI的研究和一般接近雄心勃勃的问题提供一个有用的背景。亚博体育官网

SmarterThanUsCover

智慧比我们:机器智能的崛起

阿姆斯特朗(2014)

当机器变得比人类还聪明,会发生什么?人类驾驭未来,不是因为我们是最强的,或最快速,但因为我们是最聪明的。当机器变得比人类还聪明,我们会交给他们方向盘。什么承诺和危险,将这些功能强大的机器存在?斯图尔特·阿姆斯特朗的新书导航这些问题清晰和机智。

面对情报爆炸

面对情报爆炸

L Muehlhauser (2013)

本世纪的某个时候,机器的智力和能力将超过人类的水平。这一事件——“情报爆炸”——将是我们历史上最重要的事件,明智地驾驭它将是我们所能做的最重要的事情。

从艾伦·图灵(Alan Turing)、I. J. Good到比尔·乔伊(Bill Joy)和斯蒂芬·霍金(Stephen Hawking),许多名人都警告过我们这一点。为什么我们认为霍金和他的同伴是正确的,我们又能做些什么呢?

面对情报爆炸是Muehlhauser试图回答这些问题。

AI-foom盖

汉森-尤多科夫斯基的AI-Foom辩论

R Hanson和E Yudkowsky (2013)

2008年末,经济学家罗宾•汉森(Robin Hanson)和人工智能理论家埃利泽•尤多科夫斯基(Eliezer Yudkowsky)就人工智能的未来进行了一场在线辩论,特别是关于一般智能的人工智能是否能够迅速提高自身能力(也就是“foom”)。詹姆斯·米勒和卡尔·舒尔曼也为这场辩论撰写了客座文章。

最初的争论发生在一长串的博客文章中,收集在这里。这本书还包括2011年汉森和尤多科夫斯基就这个问题进行的面对面辩论的文字记录,Kaj Sotala撰写的辩论摘要,以及尤多科夫斯基撰写的2013年关于人工智能起飞动力学的技术报告(“智能爆炸微观经济学”)。

其他

yabo体育官网

  • yabo app MIRI在其博客上发布了一些最具实质性的研究成果。亚博体育官网
  • 对话- 美里采访的有关其研究课题的研究人员和知识分子的多样化。亚博体育官网

资源研究亚博体育官网