Abram Demski和Scott Garrabrant对“嵌入式机构”进行了重大更新，讨论了ε-勘探、Newcomblike问题、反思预言、逻辑不确定性、古德哈特定律和罕见灾难预测等话题。Abram还写了一个关于在没有贝叶斯更新的情况下什么是好的推理的概述:激进概率论。一个反复出现的主题:[I]n一般…阅读更多»
贴子:Rob Bensinger
2020年8月通讯
MIRI更新了来自Abram Demski的三个问题:应用决策理论意味着什么?GPT-3有多“诚实”?如何判断人工智能辩论?MIRI研究员Scott Garrabrant亚博体育官网的一份记录:我会怎么做?简单算法中的自预测。MIRI研亚博体育官网究员Buck Shlegeris回顾了关于核武器历史的争论……阅读更多»
2020年7月简报
Blake Jones于2019年底在MIRI完成了一项研究奖学金，他将全职加入MIRI研究团队!亚博体育官网Blake加入MIRI之前，在Solaris操作系统和Oracle数据库等低级软件系统上工作了很长时间。亚博体育苹果app官方下载其他MIRI更新MIRI研究员Evan Hubi亚博体育官网nger上FLI…阅读更多»
2020年6月通讯
MIRI研亚博体育官网究员Evan Hubinger回顾了“在当前机器学习范式下构建安全的先进人工智能的11种不同提议”，比较了它们的外部对齐、内部对齐、训练竞争力和性能竞争力。我们一直对新的支持感到惊讶-继我们最近的两个公告之后，MIRI收到了来自另一个匿名捐赠者的共计26.5万欧元的捐赠，由…阅读更多»
2020年5月通讯
MIRI收到了一笔由英国有效捐赠组织(Effective Giving UK)协助的匿名捐款，金额约为27.5万欧元。此外，生存与繁荣基金与资金者jan Tallinn和Jed McCaleb合作，已宣布向MIRI提供34万美元的赠款。SFF是一个新的基金，它接管了BERI的大部分资助工作。对于参与两个决定的每个人……阅读更多»
2020年4月通讯
MIRI与加密货币交易平台BitMEX的联合创始人Ben Delo合作，在两年内从Open Philanthropy获得了77703750美元，这是迄今为止最大的一笔捐赠!我们还获得了伯克利存在风险计划(Berkeley Existential Risk Initiative)(30万美元)和长期未来基金(Long-Term Future Fund)(10万美元)的慷慨资助。感谢所有参与的人!其他更新……阅读更多»
MIRI迄今为止最大的一笔赠款!
今天有一个重要的消息:MIRI已经从开放慈善机构获得了一笔为期两年的7,703,750美元的赠款，这是我们迄今为止最大的一笔赠款。再加上今年将向MIRI支付的106万美元(这是他们2019年拨款的下半年)，这两年内将达到每年438万美元，约占……阅读更多»
2020年3月通讯
随着COVID-19大流行的进展，LessWrong团队已经建立了一个资源数据库，用于了解疾病和保持更新，80000 Hours有一篇关于如何帮助抗击COVID-19的新文章。在非miri期间，我一直在对不同来源的COVID-19进行快速和非正式的记录……阅读更多»
