Miri更新
- Miri研亚博体育官网究员Abram Demski关于反事实的写作:
我觉得反事实的问题是“主要定居”(Modulo一些数学锻炼)大约一年,但我不认为我真的在线传达了这个。部分,我一直在等待编写更正式的结果。但其他研究已经占据了亚博体育官网我的大部分时间,所以我不确定我什么时候将到达它。
因此,以下内容包含一些“铲准备”问题。如果您通过我的整体角度遵守,您可能有兴趣追求其中一些。我认为这些方向有很大的机会基本上解决了反事实的问题(包括逻辑反应性)。[...]
- 亚历克斯门纳写一个体贴的批评Abram新承担反事实的核心论点之一;阿布拉姆答案。
- 亚伯拉姆区分了简单的贝叶斯人(根据概率理论的法律)来区分简单的贝叶斯人(世卫组织的理由)反思贝叶斯人(谁赞同贝叶斯主义证明的背景观点),并认为简单的贝叶斯人可以更好地“逃离陷阱”的传统问题与贝叶斯推理。
- 亚伯拉姆解释了他背后的动机学习规范研究议程亚博体育官网,提供“四个不同的电梯间距,这讲述了不同的故事“关于研究议程的desiderata如何一起挂在一起。亚博体育官网
新闻和链接
- CFAR联合创始人Julia Galef在人类理性和动机推理中有一本很好的新书:侦察心态:为什么有些人清楚地看到事情,其他人没有。
- Katja Grace认为,系统有偏好的系统压力亚博体育苹果app官方下载更加连贯,高效,目标导向。
- 安德鲁·克里奇讨论了多极失败情景与稳健倾向的多智能经纪程序,而不管哪个代理在过程中执行哪些代理。
- 第二个AI对齐播客加入了Daniel Filan的AI X-Risk 亚博体育官网Research Podcast:Quinn Dougherty的技术AI安全播客,最近的一集Alex Turner.。
- 由Mark Xu简单但重要的观察:有力的证据是常见的。