Miri研亚博体育官网究员Scott Garrabrant已完成他的笛卡尔框架顺序。斯科特还包括前两个帖子的内容在视频形式。
其他Miri更新
- 与我相反以前的公告,Miri今年不会运行正式筹款机,但我们仍然会参加周二和其他匹配机会。捐赠并yabo体育官网下载ios获取有关税收优势捐赠的信息,雇主匹配等,见yabo体育官网下载ios 。我们还将在接下来的几周内进行年度最新的更新和回顾性。
- Facebook的星期二匹配事件将于周二(12月1日)在凌晨5点(12月1日)。Facebook将100% - 捐赠的第一个200万美元捐赠,这将合理地只需要yabo体育官网下载ios2-3秒。为了获得100% - 屠杀,那么,它比它更重要去年开始点击4:59:59 am pt。Facebook将于10%的捐赠捐赠10%的捐款。有关优化捐赠的详细信息Miri的Facebook Fundraiser可以找到ea给星期二给, 一种重新思考慈善机构项目。
- 视频讨论:Stuart Armstrong,Scott Garrabrant,以及AI安全阅读组讨论斯图尔特如果我是一个善意的ai ...。
- Miri 亚博体育官网Research Associatiat Vanessa Kosoy提出了关于AI信息危险。
- 巴克·肖克斯认为我们可能是在“历史的铰链”(假设我们不居住在模拟中)。
- 为了更容易找到和引用旧版本的Miri论文(特别是在Arxiv上的那些),我们已经收集了obsolete版本的链接Intelligence.org/refision.。
新闻和链接
- CFAR的Anna Salamon问:(做了吗?)稳定,合作机构来自?
- 人类兼容的AI中心正在接受应用程序亚博体育官网研究实习到12月13日。
- AI安全(虚拟)营地通过12月15日接受申请。
- 第四版人工智能:一种现代方法出来了,有扩展了对对齐问题的讨论。
- Deepmind的rohin shah评论Brian Christian的新书对齐问题:机器学习和人类价值观。
- Daniel Filan和Rohin Shah讨论安全心态和起飞速度。
- 幸运概要文件存在风险慈善家Jaan Tallinn。