所有Miri出版物
文章
期刊文章会议/研讨会论文书籍章节技术报告/工作文件
近期和即将到来的论文
E Hubinger。2020。”构建安全先进人工智能的11个建议概述。“arxiv：2012.07532 [CS.LG]。E Hubinger，C Van Merwijk，V Mikulik，J Skalse和S Garrabrant。2019年。“高级机器学习系统中学习型优化的风险亚博体育苹果app官方下载。“arxiv：1906.01820 [cs.ai]。
v Kosoy。2019年。“授权加固学习：学习避免陷阱有点帮助。“在ICLR的安全机器学习研讨会上提出。一个demski和s garrabrant。2019年。“嵌入式代理。“arxiv：1902.09469 [cs.ai]。2018年
S Armstrong和S Mindermann。2018。“奥卡姆剃刀不足以推断非理性行为者的偏好。“在神经信息处理系统的进展亚博体育苹果app官方下载31。D Manheim和S Garrabrant。2018。“分类古德哈特定律的变体。“arxiv：1803.04585 [cs.ai]。2017年
care。2018。“Cirl框架中的不知形性。“arxiv：1709.06275 [cs.ai]。在AAAI / ACM关于人工智能，道德和社会会议上呈现的论文。克码。2017年。“转向可转让钢筋学习：在帕累托最优连续决策中转移优先事项。“arxiv：1701.01302 [cs.ai]。S garrabrant，t benson-tilsen，克里，n拍卖和j泰勒。2017年。“一种正式的逻辑非禁止问题的方法在第16届“理性与知识的理论方面”会议上发表的论文。K Grace，J Salvatier，A Dafoe，B Zhang和O Evans。2017年。“什么时候AI将超过人类的表现？来自AI专家的证据。“arxiv：1705.08807 [cs.ai]。v Kosoy。2017年。“使用不完全模型进行预测。“arxiv：1705.04630 [cs.lg]。
n拍卖和b levinstein。2020.“在大马士革欺骗死亡。“哲学杂志117（5）：237-266。此前在第14届年度正式认识论研讨会上。e dudkowsky和n拍了。2017年。“功能决策理论：一种新的仪器理性理论arXiv: 1710.05060 (cs.AI)。2016年
T benson-tilsen和n飙升。2016年。“正式化收敛工具目标。“纸在Aaai 2016 AI，伦理和社会研讨会上呈现。Critch。2019。”Löb定理的参数，资源有限泛化，以及开放源游戏理论的强大合作标准。“arxiv：1602.04184 [CS：gt]。象征逻辑杂志84（4）：1368-1381。以前发表为“参数有界Löb的定理与有界代理的鲁棒合作。“S garrabrant，t benson-tilsen，克里，n拍卖和j泰勒。2016年。“逻辑归纳。“arxiv：1609.03543 [cs.ai]。S garrabrant，t benson-tilsen，克里，n拍卖和j泰勒。2016年。“逻辑诱导（删节）MIRI技术报告2016-2。S Garrabrant, B Fallenstein, A Demski和N Soares, 2016。”归纳连贯。“ARXIV：1604.05288 [CS：AI]。以前发表为“统一的一致性”。S Garrabrant, N Soares, J Taylor. 2016。”与无限延迟的在线学习中的渐近融合arXiv: 1604.05280 (cs: LG)。科索伊和阿佩尔，2020年。”最优多项式估计：近似算法的贝叶斯概念。“arxiv：1608.04112 [CS.CC]。即将到来应用逻辑学报．J Leike, J Taylor，和B Fallenstein. 2016。”谷物真理问题的形式解在第32届人工智能不确定性会议上发表的论文。l Orseau和S阿姆斯特朗。2016年。“安全中断的药剂在第32届人工智能不确定性会议上发表的论文。K Sotala。2016年。“定义价值学习者的人类价值观。“纸在Aaai 2016 AI，伦理和社会研讨会上呈现。J泰勒。2016。”量化器:有限优化中相对于最大化者更安全的选择。“纸在Aaai 2016 AI，伦理和社会研讨会上呈现。J Taylor，E Yudkowsky，P Lavictoire和Chitch。2016年。“高级机器学习系统对齐亚博体育苹果app官方下载MIRI技术报告2016-1。2015年
B Fallenstein和R Kumar, 2015。”对HOL的证明反射：用申请模拟多态性。“在交互定理证明:第六届国际学术会议，中国，2015年8月24-27日，论文集。Springer。b fallenstein和n飙升。2015.“视频反思：自我改善代理商可靠推理。“Miri 2015-2技术报告。B Fallenstein, N Soares, J Taylor. 2015。”Solomonoff诱导和AIXI的反光变种。“在2015年AGI的诉讼程序．施普林格。以前发布为2015-8 2015-8的Miri技术报告。B Fallenstein，J Taylor和P Christiano。2015.“反思的神谕:古典博弈论的基础。“arxiv：1508.04145 [cs.ai]。以前发布为2015-7 2015-7的Miri技术报告。以删节形式发布为“反思性奥卡尔：人工智能博弈论的基础“在2015年LORI的诉讼程序．S Garrabrant，B Bhaskar，Demski，J Garrabrant，G Koleszarik和E Lloyd。2016年。“渐近逻辑不确定性和Benford测试。“arxiv：1510.03370 [cs.lg]。论文在第九次会议上介绍了人工综合情报。以前发布为2015-11 2015-11的Miri技术报告。克朗。2015.“阿西洛玛会议:减轻风险的案例研究。“Miri技术报告2015-9。克朗。2015.“leószilárd和核武器的危险：危险减缓的案例研究MIRI技术报告2015-10。p救星。2015.“MIRI研究中的Löb定理简介亚博体育官网。“Miri技术报告2015-6。n拍了。2015.“对齐超级智能与人类利益:注释书目MIRI技术报告2015-5。n拍了。2015.“形式化现实世界的两个问题——模型。“Miri 2015-3技术报告。n飙升和b expenstein。2015.“逻辑不确定性下推理问题。“Miri技术报告2015-1。n飙升和b expenstein。2015.“走向理想化决策理论。“arxiv：1507.01986 [cs.ai]。以前发布为2014-7的Miri技术报告。以删节形式发布为“两次尝试在确定性设置中正式化逆向上学推理“在2015年AGI的诉讼程序．K Sotala。2015.“安全自主ai的概念学习这是AAAI 2015伦理与人工智能研讨会上发表的论文。2014年
S阿姆斯特朗，K索塔拉和S Ó hÉigeartaigh。2014年。“着名的AI预测的错误，见解和课程 - 以及他们对未来的意思。“中国实验与理论人工智能学报26（3）：317-342。
M Bárász, P Christiano, B Fallenstein, M Herreshoff, P LaVictoire, E Yudkowsky. 2014。”囚徒困境下的鲁棒合作:基于可证明逻辑的程序均衡。“arxiv：1401.5577 [cs.gt]．T benson-tilsen。2014年。“具有已知搜索顺序的UDT。“Miri 2014-4技术报告。P Christiano。2014年。“非无所不知，概率推断和元化学。“Miri 2014-3技术报告。B Fallenstein。2014年。“概率逻辑中的拖延工作报告。
b fallenstein和n飙升。2014年。“自我改善时空嵌入式智能自我引用问题。“在2014年AGI的诉讼程序．施普林格。B Fallenstein和N Stiennon, 2014。”'响度'：在偏好关系的前瞻上。“简要技术说明。P Lavictoire，B Fallenstein，E Yudkowsky，MBárász，P Christiano和M Herreshoff。2014年。“通过Löb的定理囚犯困境的计划均衡。“纸张在AAAI 2014年的多层互动，恕不另行协调研讨会。l Muehlhauser和N Bostrom。2014年。“为什么我们需要友好的ai。“思考13（36）：42-47。l Muehlhauser和B Hibbard。2014年。“AI的探索工程。“ACM通信57（9）：32-34。C Shulman和N Bostrom。2014年。“胚胎选择认知增强：好奇心或游戏 - 更换者？“全球政策5（1）：85-92。N苏亚雷斯。2014。”因果图中的剪辑代理。“Miri 2014-5技术报告。n飙升和b expenstein。2014年。“BOTWORLD 1.1。“Miri 2014-2技术报告。
N Soares和B Fallenstein. 2017。”用于将机器智能与人类利益对准的代理基础：技术研究议程亚博体育官网。“在技术奇点：管理旅程．施普林格。此前以“将超级智能与人类利益相结合:一项技术研究议程”的名义发表在MIRI 2014-8技术报告中。亚博体育官网n飙升，b expenstein，e yudkowsky和s阿姆斯特朗。2015.“可订正这是AAAI 2015伦理与人工智能研讨会上发表的论文。以前发布为2014-6的Miri技术报告。e Yudkowsky。2014年。“分配允许分层的主观欧盟最大化者。“Miri 2014-1技术报告。2013年
一安排。2013年。“关于Newcomblike问题的决策算法比较工作报告。美里。S Armstrong，N Bostrom和C Shulman。2015.“赛车到悬崖：人工智能发展模型。“艾和社会（DOI 10.1007 / S00146-05-0590-7）：1-6。以前发布为2013-1的人性技术报告的未来。
P Christiano，e Yudkowsky，M Herreshoff和MBárász。2013年。“概率逻辑中的“真理”的绝定”草案。美里。B Fallenstein。2013年。“5-and-10问题和平铺代理形式。“Miri 2013-9技术报告。B Fallenstein。2013年。“参数多态的一种形式中的数学强度递减。“简要技术说明。Miri。B Fallenstein。2013年。“一个无限下降的声音理论序列每一个都证明下一个是一致的。“Miri 2013-6技术报告。法伦斯坦和门嫩，2013。”预测AGI：我们知道这么少的时候我们能说什么？“ 工作文件。美里。克朗。2013年。“六个域中的算法进展。“Miri技术报告2013-3。j hahn。2013年。“概率元数学中的科学归纳。“Miri技术报告2013-4。
l muehlhauser和l helm。2013年。“智力爆炸和机器伦理。“在奇点假设．施普林格。
l Muehlhauser和C威廉姆森。2013年。“理想的顾问理论和个人cev工作报告。美里。W Sawin和Demski。2013年。“可计算概率分布，它会融合在相信真正π上1句子将不相信真实Π2句子。“Miri技术报告2013-10。N苏亚雷斯。2013。”Fallenstein的怪物。“Miri技术报告2013-7。K Sotala和R yampolskiy。2014年。“对灾难性的AGI风险的响应：调查。“Physica Scripta.90(1): 1-33。之前发表为MIRI技术报告2013-2。n stiennon。2013年。“递归定义的逻辑理论是明确定义的。“Miri 2013-8技术报告。R yampolskiy和J Fox。2013年。“人工综合情报与人类心理模型。“在奇点假设．施普林格。R yampolskiy和J Fox。2013年。“人工综合情报安全工程。“topoi.32（2）：217-226。
e Yudkowsky。2013年。“智力爆炸微观经济学MIRI技术报告2013-1。e Yudkowsky。2013年。“拖延悖论。“简要技术说明。Miri。e yudkowsky和m herreshoff。2013年。“用于自我修饰的剪辑代理，以及呼吸障碍”草案。美里。2012年
阿姆斯特朗和索塔拉，2012。”我们如何预测AI或未能。“在超越AI：人为梦想．Pilsen：西波希米亚大学。希巴德。2012。”避免意外的ai行为。“在2012年AGI的诉讼程序．施普林格。希巴德。2012。”决策支持安全AI设计。“在2012年AGI的诉讼程序．施普林格。L Muehlhauser。2012。”2012年AI风险参考书目工作报告。美里。萨拉曼逊和l muehlhauser。2012年。“奇点峰会2011年研讨会报告工作报告。美里。C Shulman和N Bostrom。2012年。“人工智能有多难？进化论点和选择效果。“意识研究杂志19日(7 - 8):103 - 130。K Sotala。2012年。“人工智能，上传和数字思想的优势。“国际机械意识杂志4(1): 275 - 291。k sotala和h valpola。2012年。“合并思维：脑上传相关的群体思维情景。“国际机械意识杂志4（1）：293-312。2011年
P de Blanc, 2011。”人工代理价值系统中的本体论危机亚博体育苹果app官方下载”。(cs arXiv: 1105.3821。人工智能)d杜威。2011年。“学习价值的东西。“在2011年AGI的诉讼程序．施普林格。e Yudkowsky。2011年。“实现有价值的期货需要复杂的价亚博体育苹果app官方下载值体系。“在2011年AGI的诉讼程序．施普林格。2010年
J Fox和C Shulman。2010年。“过度智慧并不意味着仁慈。“在ECAP 2010会议记录．verlag博士小屋。S Kaas, S Rayhawk, A Salamon，和P Salamon. 2010。”软件思想的经济影响。“在ECAP 2010会议记录．verlag博士小屋。萨拉猴，s雷希哇克和jkramár。2010年。“智力有多容易理解?“在ECAP 2010会议记录．verlag博士小屋。C Shulman。2010年。“Omohundro的“基本AI驱动”和灾难性风险工作报告。美里。C Shulman。2010年。“全脑仿真与超级有机物的演变工作报告。美里。舒尔曼和桑德伯格，2010。”软件有限奇点的含义。“在ECAP 2010会议记录．verlag博士小屋。K Sotala。2010。”从主要是无害的文明威胁。“在ECAP 2010会议记录．verlag博士小屋。塔尔克隆。2010年。“连贯的外推着中的意志：机器伦理的元水平方法工作报告。美里。E Yudkowsky。2010。”永恒的决策理论工作报告。美里。尤达科夫斯基，舒尔曼，萨拉蒙，R纳尔逊，S Kaas, S Rayhawk和T McCabe。2010年。“减少人工智能的长期灾难性风险工作报告。美里。2001-2009
p de blanc。2009年。“通用人工智能的期望效用收敛。“arxiv：0907.5598 [cs.ai]。S Rayhawk，Salamon，M anissimov，T mccabe和R纳尔逊。2009年。“改变AI未来主义的框架：从讲故障的讲故事，高尺寸概率分布。“在ECAP 2009上提出的纸张。C Shulman和SAMBRONG。2009年。“手臂控制和智力爆炸。“在ECAP 2009上提出的纸张。C Shulman，H Jonsson和N塔尔顿。2009年。“机器伦理和超明。“在2009年AP-Cap的诉讼程序．东京大学。舒尔曼，N塔尔顿，H琼森。2009。”哪种关系？机器伦理和道德分歧。“在2009年AP-Cap的诉讼程序．东京大学。e Yudkowsky。2007年。“一般情报中的组织水平。“在人造一般情报（认知技术）．施普林格。e Yudkowsky。2004年。“连贯的外推着工作报告。美里。e Yudkowsky。2001.“创建友好的AI 1.0：仁慈目标架构的分析与设计工作报告。美里。注册以获取新的Miri技术结果的更新
每次发布新技术文件时都会通知。
图书
《不充分的均衡:文明在哪里以及如何陷入困境》
E Yudkowsky (2017)
你应该什么时候认为你可以做点什么异常好吗？当您尝试在特定区域倾销时，重要的是您对您的相对能力进行清醒的了解。这个故事只在那里结束，但是，如果你有幸居住在一起足够的文明。
以利以谢Yudkowsky的均衡不足这是一本尖锐而生动的指南，适合任何质疑他们何时以及如何能比现状更好地了解和做得更好的人。在讨论理性决策的基础和日常生活技巧的同时，尤多科夫斯基探讨了一个核心问题:我们何时能(何时不能)发现系统的低效，并加以利用。亚博体育苹果app官方下载
合理性:从AI到僵尸
E Yudkowsky (2015)
当人类的大脑尝试做事时，他们可以遇到一些非常奇怪的问题。自欺欺人，确认偏见，神奇的思维 - 有时似乎我们的聪明才智在脚下射击时是无限的。
地图和地区和其余的合理性:从AI到僵尸系列询问合理性的“武术”是什么样的。在本系列中，Eliezer Yudkowsky解释了认知科学的结果，以及自然主义哲学的思想，帮助为理解Miri的研究提供了一个有用的背景，并且通常接近雄心勃勃的问题。亚博体育官网
比我们聪明：机器智能的兴起
S Armstrong（2014）
当机器比人类变得更聪明的时候会发生什么？人类引导未来，不是因为我们是最强大的或最快的，而是因为我们是最聪明的．当机器比人类变得更聪明，我们将把它们递给方向盘。承诺 - 和危险 - 这些强大的机器是否存在？Stuart Armstrong的新书以清晰度和机智的方式导航这些问题。
面对情报爆炸
L Muehlhauser (2013)
在本世纪的某个时候，机器的智力和能力将超过人类。这一事件——“情报爆炸”——将是我们历史上最重要的事件，而明智地驾驭它将是我们能做的最重要的事情。
来自Alan TITE和I. J.善于Bill Joy和Stephen Hawking的Luminaries已经警告我们这件事。为什么我们认为霍金和公司是对的，我们能做什么？
面对情报爆炸Muehlhauser试图回答这些问题。
Hanson-Yudkowsky AI-FOF辩论
R Hanson和E Yudkowsky (2013)
2008年底，经济学家罗宾汉森和AI理论家Eliezer Yudkowsky对人工智能的未来进行了在线辩论，特别是关于一般智能AIS是否能够非常快速地改善自己的能力（A.K.a.“Foom”）。James Miller和Carl Shulman还为辩论贡献了访客帖子。
原始辩论在很长一系列博客文章中进行，这里收集。本书还包括2011年汉森和Yudkowsky之间的2011年辩论的成绩单，由Kaj Sotala撰写的辩论摘要，以及Yudkowsky撰写的AI起飞动态（“智力爆炸微观经济学”）的2013年技术报告。
其他
资源研究亚博体育官网
- 公众Biblatex文件．
- 公众孟德利集团．
- 公众github repo.．
