“So far as I can presently estimate, now that we’ve had AlphaGo and a couple of other maybe/maybe-not shots across the bow, and seen a huge explosion of effort invested into machine learning and an enormous flood of papers, we are probably going to occupy our present epistemic state until very near the end. “[…I]t’s hard…阅读更多 ”
帖子：罗伯格林格
2017年9月通讯
亚博体育官网研究更新“Cirl框架中的不符合”：Miri Assistant Researcher Ryan Carey的一篇新论文响应Hadfield-Menell等人。的“脱机游戏”。新的IAFF：三级好的诅咒;条件的调理;稳定的指针值：嵌入在其自用实用功能中的代理;密度零勘探;自动化系统和困难....亚博体育苹果app官方下载..阅读更多 ”
2017年8月通讯
亚博体育官网研究更新“逻辑非禁止问题问题的正式方法”：我们在第16次合理性和知识的理论方面的逻辑归纳中提出了我们的工作。新夫的新夫：吸烟病变钢铁人;“像这个世界一样，但......”;Jessica Taylor目前的关于保罗Christiano的研究议程;亚博体育官网关于反事实的打开问题：初学者介绍“一个游戏 - 理论......阅读更多 ”
2017年7月通讯
一些主要的Miri更新：我们收到了迄今为止最大的捐款，从Ethereum Investor获得了121万美元！我们的研亚博体育官网究优先事项也转移了一些，反映了添加了四个新的全日制研究人员（Marcello Herreshoff，Sam Eisenstat，Tsvi Benson-Tilsen和Abram Demski）以及帕特里克·瓦特奥尔和杰西卡泰勒的出发。亚博体育官网研究更新IAFF：......阅读更多 ”
2017年6月通讯
亚博体育官网研究更新一个新的AI影响纸：“何时将超过人类表现？”数字趋势的新闻报道和麻省理工学院技术评论。IAFF的新新品：合作魔术师;Jessica Taylor在Aamls议程上;逻辑上更可更新的决定我们2014年技术议程的决策，“用于将机器智能与人类利益调整机器智能的代理基金会”，现在可以作为......阅读更多 ”
2017年5月通讯
亚博体育官网研究更新在IAFF中的新内容：普遍存在的匡威性问题;逻辑电感决策理论的两个主要障碍;决策理论II的概括基础。AI的影响：AI时间线预测的页面指南“决策是为了使不良成果不一致”：Nate飙升对我们的“欺骗死亡中的一些更深层次的问题进行了对话......阅读更多 ”
2017年更新和策略
In our last strategy update (August 2016), Nate wrote that MIRI’s priorities were to make progress on our agent foundations agenda and begin work on our new “Alignment for Advanced Machine Learning Systems” agenda, to collaborate and communicate with other researchers, and to grow our research and ops teams. Since then, senior staff at MIRI…阅读更多 ”
决定是为了使不良成果不一致
Nate飙升的'最近的决策理论论文与Ben Levinstein，“大马士革欺骗死亡”促进了一些有价值的问题和评论（这里匿名）。我从下面的评论者的电子邮件中汇集了编辑的摘录，并与Nate的回复。讨论涉及功能决策理论（FDT），是一个新提出的因果决策理论（CDT）和证据......阅读更多 ”
