MIRI高级研究员Eli亚博体育官网ezer Yudkowsky和执行董事Nate Soares发表了一篇关于决策理论的新的介绍性论文：“功能决策理论：工具理性的新理论”。摘要：本文描述并推动了一种新的决策理论，称为功能决策理论（FDT），有别于因果决策理论和证据决策理论。功能性…阅读更多»
发帖人：马修·格雷夫斯
新论文：“CIRL框架中的不可纠正性”
MIRI的助理研究员ryanc亚博体育官网arey发表了一篇新论文，讨论了在协作逆强化学习（CIRL）任务中表现良好并不意味着软件代理将协助或与程序员合作的情况。这篇题为“CIRL框架中的不可纠正性”的论文列出了CIRL违反以下四个条件的四种情况…阅读更多»
对Cegłowski关于超级智能的回应
网络开发者Maciej Cegłowski最近发表了一篇关于人工智能安全（视频、文本）的演讲，他认为我们应该对解决这个问题的标准假设持怀疑态度，并对这些前提似乎导致的听起来极端的主张、态度和政策持双重怀疑态度。我将对每一点给予答复…阅读更多»
