我们从最近上传了最终视频集坚固且有益的AI（CSRBAI）的古典族系列在Miri办公室，共同主持人文研究所的未来。与公用视频或幻灯片的CSRBAI会话完整列表：
- Stuart Russell（UC Berkeley） -AI：到目前为止的故事（幻灯片）
- 艾伦蕨（俄勒冈州立大学） -识别和解释不确定性（幻灯片1那幻灯片2）
- Francesca Rossi（IBM R亚博体育官网esearch） -道德偏好（幻灯片）
- 汤姆·迪斯特里奇（俄勒冈州立大学） - 关于AI透明度的问题（幻灯片）
- Stefano Ermon（斯坦福） -概率推理和准确性保证（幻灯片）
- 保罗·克里斯蒂安（UC Berkeley） -培训一个对齐的加强学习代理
- 吉姆巴布奇 -AGI遏制问题（幻灯片）
- Bart Selman（康奈尔） -非人类情报（幻灯片）
- 杰西卡泰勒（Miri） -高级机器学习系统对齐亚博体育苹果app官方下载
- Dylan Hadfield-Menell（UC Berkeley） -关闭开关：设计违规，且功能性，人工代理（幻灯片）
- Bas Steunebrink（Idsia） -关于了解，意思和价值观（幻灯片）
- Jan Leike（人类学院的未来） -一般加强学习（幻灯片）
- 汤姆埃弗蒂特（澳大利亚国立大学） -避免具有价值增强学习的幂汇（幻灯片）
- Michael Wellman（密歇根大学） -金融市场的自主代理：影响和风险（幻灯片）
- Stefano Albrecht（UT奥斯汀） -学习区分信仰和真理（幻灯片）
- Stuart Armstrong（人类学院的未来） -减少影响ai和其他替代品友好（幻灯片）
- 安德鲁克克（Miri） -有限代理的强大合作
在CSRBAI早些时候的谈判回顾谈判，请参阅我以前的博客帖子透明度那鲁棒性和误差容忍， 和偏好规范。最后一套会谈是本周一周的一部分，专注于代理模型和多项代理困境：
迈克尔·威尔曼密歇根大学计算机科学与工程教授，谈到了金融市场中自治代理的影响和风险（幻灯片）。抽象的：
坚固且有益的AI设计是未来的主题，也是今天在许多域中出现的自主代理领先优势的更直接关注。AI已经泛滥的一个领域是在金融市场上，其中一大部分交易是通过算法进行的，并通过算法进行。模型和观察研究已经让我们对AI交易员对市场表现和稳定的影响有所了解。鉴于AIS的存在，鉴于AIS的存在的设计和调节也可能产生更普遍的处理自主代理的课程。
Stefano Albrecht.，奥斯汀德克萨斯大学计算机科学部的博士后研究员谈到“学会区分信仰和真理”（幻灯片）。抽象的：
智能代理经常构建其他代理的模型，以促进自己的行为的规划。复杂的代理也可能在一组替代模型上保持信仰。不幸的是，这些方法通常不会在互动期间检查其模型的有效性。因此，代理人可以学习和使用不正确的模型而不实现它。在这次谈话中，我会争辩说，强大的代理人应该具有两种能力：构建其他代理的模型并考虑其模型的正确性。我将提出一种行为假设检测方法以及一些实验结果。谈判将结束与开放问题和可能的研究议程结束。亚博体育官网
斯图尔特阿姆斯特朗，从牛津的人类学院的未来，谈到“减少影响ai”（幻灯片）。抽象的：
这次谈话将看一些开发的一些想法，以创造安全的AI，而不解决友善的问题。它将首先关注“减少影响AI”，AIS旨在对世界几乎没有影响 - 但仍然可以提取高影响力。然后，它将深入了解AIS的新思想，旨在仅对自己的虚拟世界进行偏好，并介绍使用漠不关量作为AI控制工具的优势和局限性。
最后，安德鲁克克里奇一位Miri研究员亚博体育官网，关于有界代理人的强大合作。这次谈判基于该文件“参数界Löb的定理和有界代理的强大合作。“谈论摘要：
一对可能互相摧毁的代理人之间的第一个互动可以类似于单击囚犯的困境。考虑这样的游戏，其中每个播放器是一种具有对其对手的源代码的读取访问的算法。Tennenholtz（2004）介绍了一个合作的代理商，IFF其对手的源代码与自己的源代码相同，因此有时会实现相互合作，同时仍然是普遍的无法解释的。然而，精确的计划平等是一种脆弱的合作标准。在这里，我将展现出一种新的和更强大的合作标准，灵感来自Lavictoire，Barasz和其他人（2014）的想法，以便为有界性质的可证明逻辑中的新定理使用新的定理。
