2021年5月通讯

发布通过申请下时事通讯

MIRI高级研究员Sco亚博体育官网tt Garrabrant有一个重要的新结果,“有限因子集”,他将在太平洋时间周日中午的一个在线演讲中公布。(变焦链接。)有关结果的详细信息,请参见斯科特的新帖子“节约时间”。另一则大新闻,MIRI刚刚收到了两笔最大的个人捐款…阅读更多»

2021年4月通讯

发布通过申请下时事通讯

MIRI研究员Abram Demsk亚博体育官网i在反事实问题上写道:我觉得反事实的问题“基本上解决了”(通过一些数学计算)已经有一年了,但我认为我并没有在网上真正沟通过这个问题。部分原因是,我一直在等待写出更正式的结果。但是其他的研究占据了亚博体育官网我…阅读更多»

2021年3月通讯

发布通过申请下时事通讯

MIRI更新了MIRI的Eliezer Yudkowsky和Evan Hubinger对Ajeya Cotra的《缩小超人模型的案例》的一些细节评论。这个对话涉及到MIRI中一些更重要的对齐研究观点,例如对齐需要全面理解AGI系统“幕后”的推理的观点,以及早期AGI系统应该很可能避亚博体育官网免人类的观点……亚博体育苹果app官方下载阅读更多»

2021年2月通讯

发布通过申请下时事通讯

关于人工智能对齐中“指向”人类价值的问题,艾布拉姆·戴姆斯基(Abram Demski)区分了不同版本。Evan Hubinger在AI X-Risk Research Podcast上讨论了“从学习到的优化中产生的风险”。亚博体育官网Eliezer Yudkowsky通过辩论和古德哈特定律评论人工智能的安全性。MIRI的支持者在“给予星期二”yabo体育官网下载ios上捐赠了13.5万美元,其中26%来自Facebook, 28%来自雇主。阅读更多»

2021年1月通讯

发布通过申请下时事通讯

MIRI更新了MIRI的Evan Hubinger使用优化能力的概念来定义AI系统是否与策略窃取假设兼容。亚博体育苹果app官方下载MIRI的Abram Demski讨论了不依赖因素认知的人工智能安全的争议方法。Evan认为第一个AGI系统可能彼此非常相似,并讨论了……亚博体育苹果app官方下载阅读更多»

2020年12月通讯

发布通过申请下时事通讯

MIRI首席运营官Malo Bourgon回顾了我们过去的一年,并讨论了我们在2020年的更新和战略的未来计划。我们最大的更新是,我们在2018年的更新:我们的新研究方向中所描述的新研究取得的具体进展比我们预期的要少。亚博体育官网因此,我们正在缩减这些研究工作……亚博体育官网阅读更多»

2020年11月通讯

发布通过申请下时事通讯

MIRI研亚博体育官网究员Scott Garrabrant完成了他的笛卡尔框架序列。Scott还以视频的形式覆盖了前两篇文章的内容。与我之前的声明相反,MIRI今年不会举办正式的筹款活动,尽管我们仍然会参加周二的捐赠活动和其他匹配的机会。捐赠并yabo体育官网下载ios获取税收优惠的信息…阅读更多»

2020年10月通讯

发布通过申请下时事通讯

从今天开始,Scott Garrabrant开始发布笛卡尔框架,这一序列引入了Scott发现的关于能动的有价值的新概念框架。用斯科特的话来说:笛卡尔框架是“将珀尔的推理运用到博弈论的物体上,并带有哈特的动机”。斯科特会在网上做一个讲座介绍笛卡尔坐标系。阅读更多»