2013年回顾:外展

||米里策略

这是我个人和定性的第二部分2013年MIRI自我回顾．

我指的是“延伸”一般拓展工作，而不是例如。对特定研究人员的外展亚博体育官网，将在帖子关于Miri 2013年的研究活动中讨论。亚博体育官网

2013年Outeach

  1. 2013年初，我们决定大大减少我们的外联工作，我们做到了。
  2. 然而，我们在2013年了解到，对于MIRI的目标来说，一些形式的“间接”延伸往往是非常划算的。1
  3. 因此，我们计划在2014年投入比2013年更多的精力在间接推广上。

减少我们的外展努力

Miri暂时决定在2012年中期减少其外展努力，当时我们决定与...进入谈判奇点大学(SU)回应了他们的收购要约奇点峰会，最终达成协议关闭2012年12月。外展工作的减少在我们的2013年战略员额在很大程度上在于这一早些时候的战略决定的延续，这是对成功结束的协议有条件的。（我们将继续运行奇点峰会没有获得它。）

Miri将共同生产未来几年的奇点峰会，但这需要我们在我们的一部分最小的努力，并将未来峰会的安排在苏的手中。苏还尚未安排下一个奇点峰会。

如果2013年没有奇点峰会，我们的直接的今年的外展工作很少。我所说的“直接外展工作”是指试图直接让人们了解MIRI的任务，重点是过度智能控制问题．这与“间接外联努力”形成对比，后者的目的不是让人们了解mii的使命，而是让人们了解其他可能开始架起桥梁的想法推论的距离这是常识和核心的想法激励MIRI的使命——诸如有效的利他主义，应用的合理性，全球灾难性的风险,安全心态， 等等。

我们的直接的外联工作2013年:

  1. 一个新网站这是我们更名为机器智能研究所(Machine Intelligence Research Institute)的必要组成部分，此外亚博体育官网，社交媒体的使用也有所增加。
  2. 一些普通观众在大学和科技公司(斯坦福大学，牛津大学，Facebook, Quixey和Heroku)进行了关于超级智能控制的演讲，也在有效的利他主义峰会．
  3. 我们在旧金山湾区为我们的社区举办了两场活动:4月份的“重新推出MIRI”活动，以及9月份为James Barrat的新书发布活动我们最后的发明．MIRI的两名员工还发表了对巴拉特的书的评论，在这里和在这里．
  4. 包含以前写的内容的两个新电子书：面对智力爆炸和Hanson-Yudkowsky AI-Foom辩论．
  5. 为了建立人脉，我们也参加了一些活动，并与联系我们的感兴趣的人进行了交谈，从而与许多人谈论了关于超级智能控制的问题。
  6. 各种各样的小文章和采访，例如简短的文章为石英和一个面试为全局科学．

很难衡量这些努力为我们的长期目标创造了多少价值。关于这些努力的一些基本统计数字记录在一个脚注中。2

全面的，我自己的印象关于这些直接研究的价值如下：亚博体育官网

  1. 新域名（Intelligence.org）和网站似乎显然有价值。我们有限地使用社交媒体也有价值，不是值得的成长我们的社区（因为：太多了推论的距离），但为了让我们现有的社区与Miri的工作进行参与。（对于许多人来说，我们的Facebook更新是与Miri保持联系的最简单方法。）
  2. 我们在“有效利他主义峰会”(Effective Altruism Summit)上的超级智能控制演讲是值得的，因为我们与听众之间的推论距离更少了。我们还知道，一些捐款是这些会谈的结果。相比之下，我们还没有收到任何具体的证据其他超级智能控制对话为我们的任务创造了价值，而不是让我们与现有社区保持联系。我们没有强烈期望这么快就看到这样的证据，但这仍然构成了不可忽视的因素证据的缺乏积极的外展效应。
  3. 湾区的两场活动对我们现有的社区保持联系是有价值的，但它们未能产生重要的新闻报道，即使我们邀请了几位重要的记者。这些活动花费了更多的时间和精力，而不是金钱。我们的两篇书评我们最后的发明太近来，我​​们要知道他们是否在读者中造成了有用的行动（超越仅仅在购买书）。
  4. 这两本已有内容的电子书制作成本不高，而且它们使我们的材料更容易获取。它们对我们来说太新了，还没有具体的证据表明它们有积极的影响，但我猜这些花费是值得的。
  5. 据我所知，我们与人们谈论超级智能控制(而不是有效的利他主义、理性等)的社交活动似乎产生了微不足道的价值。我们尝试了几次材料的演示，但我认为推论距离太大了，无法让那些还不熟悉有效利他主义、应用理性、全球灾难风险等的新人们参与进来。

间接外联工作显然是成功的

我们的间接的外联工作2013年的目标还包括长期效果:

  1. 埃利泽·尤多科夫斯基谱写了新的篇章哈利波特和理性方法（HPMoR），Miri分发了2500份平川副本，将其前17章到学校，大学和公司。3.
  2. 卡尔·舒尔曼贡献了研究和职业咨询服务亚博体育官网有效利他主义的中心(CEA)。
  3. 我们在头版发表了几篇文章不错社区，例如一个决策理论F.A.Q.4

我们的帖子对错误的积极影响难以衡量，但我们的其他间接外展努力已经比我们的直接外联努力更快地产生了明确的证据。

卡尔在CEA的工作对资金和关注度有明显的影响长期慈善事业（包括SuccorTelligence控制问题）。

最后，我们有一些关于间接外展价值的证据HPMoR：

  • When I observe someone doing something useful to MIRI’s mission (e.g. donation or research) for the first time, I typically ask how they came to be involved, and I trace the story back to their first contact with someone at MIRI, with one of MIRI’s close friends, or to something that MIRI or MIRI’s close friends produced.HPMoR是我现在最常遇到的“第一次接触”。(第二大最常见的初次接触是序列．)
  • 平装版的HPMoR在第17章中间结束，意味着读者开始HPMoR.com完成平装后，应该直接跳到第17章。根据Google Analytics，人们常常比前10章和新发布的章节以外的任何其他章节更频繁地访问第17章。究竟很难判断，但我最好的猜测是，每月100-400人来到HPMOR.COM，因为首先阅读了前17章章节的平装副本。

这些数据符合mii早期对其直接和间接外联工作的影响的经验。例如，就像我说的早些时候:埃利泽·尤多科夫斯基(Eliezer Yudkowsky)在mii的早年直接向人们呼吁超级智能控制研究的重要性。亚博体育官网一些乐于助人的人找到了他的作品，但观众被过滤为“对未来技术感兴趣”，而不是“能够很好地推理”，因此当eliezzer会做基本参数例如，正交命题或收敛工具值，他会得到典型的类似于自由联想任务的输出。所以以利以谢写序列和HPMoR，主要受众过滤器是“对提高一个人推理的兴趣”。在我们的经验中，这次受众在展示有效的利他主义的情况时更有可能做有用的东西，因为减少FAI Research等x-illow等。亚博体育官网

2014年的经验

今天，我发现自己比我更自信2013年4月MIRI的某些间接延伸比MIRI的直接延伸更有可能为超级智能控制创造价值。基于这个原因，我怀疑2014年我们将继续缩减我们的直接的外联工作。5与此同时，我们可能会增加我们的间接外展的努力，特别是给以利以谢更多的时间写作HPMoR通过分发更多的章节HPMoR平装本，通过出版电子书的序列．

例如，我们还将为正在进行尼利（和其他组织）的各种外联的组织提供一些咨询和其他支持，这些组织将有利于Miri（和其他组织）CFAR（理性）和东航（有效的利他主义）。

  1. 我们目前正在收集更多关于我们直接和间接外联工作的影响的信息，但这些数据需要几个月的时间才能收集到。这些数据可能会推翻本文的基本结论，但更有可能的是，他们会稍微调整这些结论。↩
  2. 直接外展努力的基本统计数据：（1）我们的新www.hdjkn.com域名从PageRank 0上升到PageRank 5，一个排名下面LessWrong.com该网站自2009年以来一直保持着高度链接和活跃。(2)自2013年3月成立以来，www.hdjkn.com平均每月拥有28613个独立访客。这大约是我们之前的域名singularity.org流量的两倍，在运营期间(2012年7月至2013年2月)，该域名平均每月有14843名独立访问者。正如预期的那样，我们的其他“迷你网站”的流量微不足道。在2013年活跃的几个月里，我们的迷你网站每个月的独立访客数量如下:IntelligenceExplosion.com.(2336 / mo),Friendly-AI.com（50 / mo），TheUncertainFuture.com（129 / mo）。（4）截至1月2日，Miri的Facebook页面有〜5000喜欢，已经被〜19,500个独特的人所见，并“订婚”〜1100个独特的人（这意味着他们喜欢，评论，或点击Miri的Facebook Wall Posts）。Miri的Google+页面是最近才出现的，也没有那么活跃:大约230 +1(类似于Facebook的喜欢)，和17次转发。请注意，我们的Facebook点赞数似乎是人为地高了。从10月9日到11月9日，MIRI的Facebook主页收到了不同寻常的赞数。12月22日，这种情况再次发生。我们不知道原因。(5)我们的通讯订阅数量仅略有增长，从2013年1月的9152名订阅用户增长到12月22日的10024名订阅用户。(6) 2013年4月，约65人参加了我们的重新发布活动。2013年9月的新书发布会有大约75人参加。在这两个案例中，大多数与会者都是MIRI的密友。(七)自公布之日起一个月内，卢克的审查的我们最后的发明kurzweilai网站上的访问量达到了8500次，并且至少购买了20次这本书，这本书详细地描述了MIRI的使命和工作。与此同时,路易的评论的我们最后的发明截至2014年1月2日，Singularity Hub至少购买了60本书。(8) 2013年4月- 11月，面对智力爆炸购买了1,379次。自9月以来，Hanson-Yudkowsky AI-Foom辩论已下载至少1,240次，但这只能从点击www.hdjkn.com中的链接下载的人。（9）有多少人参加了我们的一般观众谈判？通过记忆，我猜我在斯坦福，30岁的牛津，在Facebook，40岁的Quixey，15位Heroku，50岁的有效利他主义峰会上。这些比例更小，更具针对性的谈判。我们的过去的谈判在奇点峰会。↩
  3. HPMoR是yudkowsky的私人项目，但Miri赞助了这项工作，即Yudkowsky在Miri留下了薪水，而他从“直接Miri Work”休息时间来写下并发布新章节HPMoR．↩
  4. MIRI在2013年为Less Wrong社区发布的实质性、面向外展的头版文章如下:(1)决策理论F.A.Q.；（2）费米估计；（3）从街灯下开始，然后进入阴影；（4）有效利他主义的四个重点领域；（5）如何衡量任何东西；(6）差点：基于证据的医疗保健．↩
  5. 这种趋势可能至少会有两个主要的例外。首先，在2014年初，我们将出版一本名为比我们聪明这本书是由斯图尔特·阿姆斯特朗(Stuart Armstrong)在2012年底编写的。直到最近，我们的员工才有时间把它变成电子书。其次，我们可能会发布一些关于这部即将上映的电影的消息超越，因为这是指导许多眼球到我们的着作的独特机会。此外，我们很可能有助于促进尼克博斯特罗姆的超智书但这确实称得上是“对研究人员的延伸”，而不是“一般的延伸”，因为博斯特罗姆的书是一本学术亚博体育官网专著。↩