宣布新的AI对齐论坛

||客人的帖子新闻

这是一篇来自LessWrong的首席开发者Oliver Habryka的客座文章。我们感谢LessWrong团队为开发这一资源所付出的努力,并祝贺今天的发布!


我很高兴地宣布经过两个月的公测,AI对齐论坛今天启动。人工智能对齐论坛是一个由背后的团队建立的新网站LessWrong 2.0,帮助创建一个技术人工智能对齐研究和讨论的新中心。亚博体育官网

当我们设计这个论坛时,我们的核心目标之一是让新人更容易开始做技术人工智能对齐研究。亚博体育官网这项工作分为两大部分:

1.更好的介绍内容

我们一直在与人工智能对齐研究人员协调,创建三个新的序列的帖子,我们希望可以作为人工智能对亚博体育官网齐的一些最重要的核心思想的介绍。这三个新序列将是:

在接下来的几周,我们将每天发布这些序列的一个帖子,从嵌入机构序列中的第一个帖子今天。

如果你对学习AI对齐感兴趣,我鼓励你在评论部分提出问题并讨论内容。如果你已经熟悉了许多核心理念,那么我们将非常感谢在我们发布这些序列时所得到的反馈。我们希望这些序列可以成为新人参与人工智能比对研究的重要组成部分,所以我们非常关心它们的质量和清晰度。亚博体育官网

2.加入讨论的简单方法

大多数科学领域都必须平衡与其他专家进行高背景讨论的需求,以及允许更广泛地传播新思想、接纳新成员以及有潜力的新研究人员证明自己的机会的公众讨论。亚博体育官网我们试图设计一个系统亚博体育苹果app官方下载这仍然允许新来者参与和学习,同时给成熟的研究人员空间与其他研究人员进行高层讨论。亚博体育官网

要做到这一点,我们将新的AI对齐论坛与现有的LessWrong平台紧密结合,如下所示:

  • 在新的人工智能对齐论坛上发表的任何新帖子或评论都会自动发到LessWrong.com上。两个平台之间的账号也是共享的。
  • 任何关于LessWrong的评论和帖子都可以被Alignment Forum的成员从LessWrong推广到AI Alignment Forum。
  • LessWrong和AI Al亚博体育苹果app官方下载ignment Forum的声誉系统是独立的,对于每个用户、帖子和评论,你可以在LessWrong.com上看到两个声誉分数:一个主要的业力分数结合了两个网站的业力分数,一个次级的业力分数针对AI Alignment Forum成员。
  • 任何内容经常得到提升的成员,以及从AI对齐论坛成员那里获得大量业力的成员,都会被自动推荐给AI对齐论坛的版主作为对齐论坛的候选人。

我们希望这将产生一个系统,在这个系统中,前沿的研究和讨论可以发生,而新亚博体育苹果app官方下载的好想法和参与者可以因为他们的贡献得到注意和奖励。亚博体育官网

如果你对做校准研究感兴趣,那么我认为现在最好的方法就是评论AI校准论坛LessWrong上亚博体育官网的帖子,看看我们将推出的新内容。


为了集中现有的人工智能技术的讨论,这个新的论坛也将取代智能代理基金会论坛过去两年,MIRI一直在建造和维护。我们计划在未来几周关闭IAFF,并与MIRI合作从论坛中导入所有内容,同时确保所有旧的网址都正确地转发到新网站上各自的地址。如果你在那里投稿,你应该会收到一封关于导入你的内容细节的电子邮件。(如果你没有,请在AlignmentForum.org右下角的对讲机聊天中给我们发一条信息。)

感谢MIRI帮助我们建立这个项目,我期待看到你们很多人参与LessWrong和新论坛上关于AI对齐问题的讨论。