MIRI研亚博体育官网究员Evan Hubinger评论道在当前机器学习范式下构建安全先进人工智能的11个不同建议,比较它们的外部对齐和内部对齐,培训竞争力和绩效竞争力。
其他的更新
- 我们不断被新的支持节目所惊奇-跟随我们去年两个宣布后,MIRI收到了另一名匿名捐赠者的捐款,总额达26.5万欧元有效的给英国和有效的利他主义基础.非常感谢捐赠者的慷慨,感谢这两个组织对MIRI和其他长期组织的支持!
- 黑客新闻讨论了以利以谢Yudkowsky的AGI没有火警.
- MIRI研亚博体育官网究员Buck Shlegeris谈到遵从和内视图模型在EA论坛上。
- OpenAI揭示GPT-3,巨大的175-欧元参数语言模型,可以找出如何解决各种各样的问题,而无需任务特定的训练或微调。Gwern Branwen精练的总结:
GPT-3是可怕的,因为它是一个很小的模型,与可能的情况相比,以最愚蠢的方式在一个单一的、贫乏的、微小的数据上进行训练,然而第一个版本已经显示了疯狂的运行时元学习和缩放曲线仍然不是弯曲!
- 斯图尔特·罗素在今年的图灵机在线讲座上讨论证明地有益的人工智能”。