内特·苏亚雷斯(Nate Soares)最近与本·莱文斯坦(Ben Levinstein)合著的决策理论论文《在大马士革逃避死亡》(Cheating Death in Damascus)引发了一位熟人(匿名)提出的一些有价值的问题和评论。下面我从评论者的电子邮件中摘录了一些经过编辑的内容，并附上了内特的回复。讨论涉及功能决策理论(FDT)，一个新提出的替代因果决策理论(CDT)和证据…阅读更多»
贴子:Rob Bensinger
2017年4月通讯
我们的最新出版物《在大马士革逃避死亡》(cheat Death in Damascus)阐述了功能决策理论，这是我们思考理性选择和反事实推理的一般框架。其他新闻，我们的研究团队正在扩大!亚博体育官网之前都在谷歌工作的山姆·艾森斯塔特(Sam Eisenstat)和马塞洛·赫雷肖夫(Marcello Herreshoff)本月加入了MIRI。亚博体育官网IAFF最新研究更新:“决策中的正式开放问题……阅读更多»
两名新的研究人员亚博体育官网加入了MIRI
MIRI的研究亚博体育官网团队正在壮大!我很高兴地宣布，我们已经聘请了两位新的研究人员来为我们的人工智能校准工作做出贡献:Sam Ei亚博体育官网senstat和Marcello Herreshoff，他们都来自谷歌。山姆·艾森斯塔特(Sam Eisenstat)在滑铁卢大学(University of Waterloo)学习纯数学，在那里他进行了数学逻辑方面的研究。亚博体育官网他以前的工作是……阅读更多»
新报:“在大马士革逃避死亡”
MIRI执行董事Nate Soares和Rutgers/UIUC决策理论家Ben Levinstein发表了一篇新论文，介绍了MIRI提出的通用决策理论——泛函决策理论(FDT)。这篇题为《在大马士革逃避死亡》的论文考虑了广泛的决策问题。在每一种情况下，苏亚雷斯和莱文斯坦都表明，FDT优于所有早期的理论……阅读更多»
2017年3月通讯
亚博体育官网IAFF最新研究进展:诱导良性的几个问题纠缠均衡与双胞胎囚徒困境人工智能影响下决策理论新基础的推广:人工智能安全领域资金的变化人工智能研究的资助MIRI研亚博体育官网究员安德鲁·克里奇(Andrew Critch)在加州大学伯克利分校的人类兼容中心(Center for Human-Compatible)开始了为期两年的研究。阅读更多»
2017年2月通讯
在一篇概述了MIRI研究人员和OpenAI研究员Paul Christiano追求不同研究方向的一些原因的文章之后，亚博体育官网Jessica Taylor写下了MIRI高可靠性代理设计研究的主要动机。亚博体育官网研究更新的一篇新论文:“朝向可协商的强化学习:Pareto最优顺序决策的优先级转移”…阅读更多»
CHCAI/MIRI人亚博体育官网工智能安全研究实习
我们正在寻找有才华、有动力、有抱负的技术研究人员，在人类兼容人工智能中心(CHCAI)和机器智能研究所(MIRI)进行夏亚博体育官网季研究实习。关于研究:CHCAI亚博体育官网是一个位于加州大学伯克利分校的研究中心，与包括Stuart Russell, Pieter Abbeel和Anca Dragan在内的pi合作。CHCAI将其目标描述为……阅读更多»
新论文:“走向可协商的强化学习”
MIRI研亚博体育官网究员安德鲁·克里奇(Andrew Critch)在冲突解决理论中开发了一项新成果，他在《走向可协商的强化学习:帕累托最优顺序决策中的优先级转移》(Toward协商强化学习:转移帕累托最优顺序决策中的优先级)中描述了这一成果。摘要现有的多目标强化学习(MORL)算法不能考虑不同信念玩家产生的目标。具体来说，考虑两个有着不同信念的玩家……阅读更多»
