Miri更新
- Abram Demski区分不同的版本“指向”人类价值的问题在AI对齐中。
- Evan Hubinger讨论“来自学习优化的风险”论AI X-Risk Resear亚博体育官网ch播客。
- Eliezer Yudkowsky.通过辩论和古特哈特法对AI安全的评论。
- Miri支持者yabo体育官网下载ios捐赠了〜135万美元的给予星期二其中〜26%的Facebook符合〜26%,雇主〜28%,共计207,436美元!Miri在12月底,Tisbest慈善部门还收到了6,624美元,主要是通过圆形两轮雷达奥#redefinegifting.倡议。我们感谢你们所有人!
- Spencer Greenberg讨论了社会和教育安娜萨拉梅和邓肯萨比恩在更清晰的思维播客。
- 我们想要莫尔:Eliezer参加了一个(Speper-Laden)讨论哈利波特和理性方法。
新闻和链接
- 理查德非政府组织反映他在有效的利他主义中的时间:
[...]直到最近,我相对被动做出了大决定。通常意味着只挑选最高响尾之以来的默认选项,而不是制定特定的长期计划。这也涉及我从“消费者”心态而不是“生产者”心态的思想。当它看起来很糟糕时,我曾经想过为什么负责人没有这样做;现在我也问为什么我没有这样做,并考虑自己承担责任。
部分只是因为我现在已经参与了EA更长。但我认为我也习惯于高估如何建立和组织的EA。事实上,我们是一个令人难以置信的年轻运动,我们仍然在我们走的时候弥补了很多东西。这使得接受性更为重要。
重视接受性的另一个原因高度是以最大的成功途径进行了高估。[...]我对这方面的灵感来说是我一排三次的矿井的朋友,伸向一个她想为之努力的组织并确信他们为她创造一个新的立场。
- 诺戈辨别根据他们是否在培训时间与部署时间中指的是在训练时间的情况下,基于目标规范,正交,仪器融合,价值脆弱和古老法律的权利要求。亚博体育苹果app官方下载
- Connor Leahy,作者黑客学会信任,争论(以及其他事情)“GPT-3是我们最后的警告镜头“为了协调解决AGI对齐。(播客版本。)我包括这次谈话,因为这是一个很好的谈话,主题认股权证讨论,但Miri员工不一定支持这一索赔 - 而Eliezer肯定会对任何声称反对AGI的火警是一种火警。
- Openai安全研究人员包括亚博体育官网Dario Amodei,Paul Christiano和Chris Olah离开Openai.。
- Openai的达尔-E.使用GPT-3进行图像生成,而夹子展示令人印象深刻的零拍摄图像分类功能。Gwern Branwen.注释在他的时事通讯中。