罗宾·汉森谈严肃的未来主义

路加福音Muehlhauser在之前的一篇博客文章中，我写道我称之为AGI影响专家的需求，他们“发展与预测技术发展相关的技能，预测AGI对社会的可能影响，并确定哪些干预措施最有可能增加人类安全地驾驭AGI诞生的机会。”

2009年，你做了一个演讲，社会如何确定专家，它什么时候工作？“考虑到您所做的研究和专业知识，您认为人类发展这些AGI影响专家的前景如何?”如果他们发达了，你认为社会能识别出谁是专家，谁不是吗?

罗宾汉森：一系列问题与现有机构有关，他们倾向于选择哪些专家，以及他们倾向于选择哪些类型的主题。如果您有时间和关注和兴趣，另一组问题必须在多大程度上获得任何特定主题的专业知识，包括AGI影响或更普遍的技术预测？如果您确实获得了这样的专业知识，则重叠前两个的第三个主题，您将如何说服您拥有的任何人？

我认为第二个问题是最容易回答的。你能了解这些东西吗?

我认为一些人Popperian范式已经长大,那里有一个有限的科学方法和有一个有限的范围的主题可以申请,你转动曲柄,如果它可以适用于这些话题你有科学和真理,你有一些你学过的,否则其他一切都看来,同样未分化的意见。

我认为这是完全错误的。也就是说，我们拥有各种知识分子方法，以及协调努力的广泛的社会机构。

其中一些方法比其他方法更有效，然后有一些主题的进展比其他更容易，这只是因为主题的性质。但说实话，如果你只是坐下来学习，很少有话题你不能学到更多。

当然，这并不意味着你只是盯着一堵墙。大多数话题都是与其他话题相关的，在这些话题上人们已经学到了一些东西。无论你的主题是什么，找出相关的主题，了解这些相关的主题，尽可能多地了解其他人对相关主题的了解，然后开始交叉，并将他们与你的主题联系起来，并在上面工作。

仅仅是血汗工作就能让你在一个非常广泛的话题上获得很多方式。当然，仅仅因为你可以学习几乎任何东西并不意味着你应该学习。这并不意味着值得为社会或你自己付出努力，也不意味着对于任何学科，都有简单的方法来说服别人你学到了一些东西。

你可以使用一些方法，在这些方法中你更容易说服人们，你可能更喜欢专注于这些话题或方法，这样更容易说服人们你知道一些事情。一个相关的问题是，人们对你知道某件事有多印象深刻?

许多现有的机构，如学术机构或媒体机构，将有资格的人识别为各种主题的专家，主要是作为区分和给人留下深刻印象的方式。

人们想要与那些令人印象深刻的人交往、联系、阅读和聆听他们的演讲，这些人是公认的令人印象深刻的专家网络的一部分，他们相互承认彼此令人印象深刻。它叫做状态。

一些机构被那些主要试图获得令人印象深刻的证书的人所控制，所以他们可以看起来令人印象深刻，被雇佣从事令人印象深刻的工作，拥有专为令人印象深刻的人保留的权威职位，成为董事会成员，等等。

此外，有些标准程序，你可以做些什么，所以人们可以说，“是的，他知道程序，”和“是的，你可以跟随他们”，“是的，那些是该死的艰难程序。任何能够做到这一切必须令人印象深刻的人。“

但是有一些你可以学习的东西是很难成为令人印象深刻的。

一般来说，当你选择世界上任何一个话题，只是因为它在某些更基本的方面是有趣的或重要的，它并不一定适合成为一个感人的展示。

未来主义呢？对于未来的各个方面，如果您坐下并在其工作，您可以取得进展。证明你取得了进展并不是很好的，因为未来需要一段时间才能到达这里。当然，当它到达这里时，您将为时已晚，从而从最终被证明对该主题令人印象深刻。

我喜欢把未来和历史作比较。历史也是我们不确定的东西。我们必须把很多小线索放在一起，来推断过去。我们专注于很多非常具体的文物。我们至少可以展示我们对所有这些具体文物、它们的细节、位置和模式的令人印象深刻的掌握。我们的未来没有这样的东西。当然，我们最终会的。

要证明你对未来的掌控要困难得多。你可以通过使用我们已经应用到其他学科的复杂统计技术来研究未来。这是可能的。它仍然无法以一种戏剧性的方式展示给人深刻的印象就像将统计技术应用到下周你就能得到更多数据来验证你刚刚在统计分析中展示的东西。

我也认为未来是人们投射了很多希望的地方。他们只是不太愿意对它中立。人们更愿意说，“过去发生了悲伤和可怕的事情，但我们得到它。我们曾经认为，我们的创始人是伟大的人，现在我们可以看到他们是屎。“我猜这就是这样，但对于未来，他们的希望更难击倒。

你不能向他们证明未来不是他们希望的那样。他们有很多感情在里面。通常情况下，在大多数人没有强烈情感投入的学科上，你更容易表现出令人印象深刻的学术成就，因为这往往会成为障碍。

路加福音：我有一些关于某些类型的科学培训的猎物，可能会给人们提供不同的观点，以便我们在中期到长期的技术预测中可以做的程度。我想知道你是否认为我的猎人与你的经历相匹配。

一个预感是,例如,如果有人在Popperian范式,而不是年轻也许有人长大在贝叶斯范式,Popperian将有一个强大的方法的心态,因为你没有得到伪造假说对未来直到未来,这类人对你可以了解未来的想法更加怀疑。

或者在风险分析的圈子里，有一个被训练的传统就是存在风险，你可以给它加上一个概率，然后是不确定性，你对它的了解还不够，甚至无法给它加上一个概率。几十年后的很多事情都属于后一类。而对我来说，作为贝叶斯的一员，不确定性就会变成风险。正因为如此，也许我更愿意努力去思考未来。

罗宾：这些问题从学术的角度来看，或熟悉相对技术的技能的学术。But say you’re running a business, and you have some competitors, and you’re trying to decide where will your field go in the next few years, or what kind of products will people like, or you’re running a social organization, and you’re trying to decide how to change your strategy.

另一个例子是:你有一些历史，你试图追溯过去，想知道你的祖父在做什么，或者只是人们可能会问的关于这个世界的几乎所有随机问题。波普派的东西一点用都没有。它是完全无用的。如果你有某种处理现实问题的习惯，你就会养成一种容忍的态度，期待事情不能被证明或证伪。

您还会介绍期望有一系列概率。你会不确定，你必须处理这一点。它只在一个稀有的学术界中，它可以易于拒绝不确定性，或者坚持伪造，因为这几乎从未实现过绝大多数问题，你可能要试图问。

路加福音：回到某人如何发展专业知识的问题，例如，AGI影响，或者让我们更广泛地说，长期的技术预测......

您对某人需要进行的一些关键培训的想法是什么？它甚至可能是精神习惯，记住我们在科学意义上做了很多邮票的物质的某些领域。您认为这是如何发展这种专业知识的相关性？

罗宾：我们生活在一个人们在一个人们花费大量的职业生涯学习的世界里，然后它只是在他们了解到他们所吸取的东西最有效的事情之后，这只是应用他们所学到的东西。

我们只是在一个人们有长寿的世界里，他们与其他人跨越寿命跨越的其他人。你必须期待，如果你将是最好的东西，你将不得不花费大部分你的生活。对不起，没有捷径。这只是一个人可能不想听到的信息，但这就是它的方式。

您也必须弄清楚专门的地方和多少。你无法学习20个字段，以及最好的人可以了解它们。对不起。你只是没有时间。你必须以某种方式成为一些非常不寻常的人，以便接近这一点。

你必须决定你想把重点放在未来的哪些方面。游戏中有许多不同的方面，并不是所有方面都集中在一起，如果你了解了其中一个方面，你就会自动了解其他方面。

在技术预测中，有一类问题是关于什么技术原则上是可行的。要对这类问题有一种感觉，要回答它，你需要花费生命中的相当一部分时间来学习你所谈论的这种技术。您还应该花一些时间研究其他技术的历史，以及它们是如何随着时间的推移而发展的。技术的典型轨迹和创新的典型轨迹，以及它从哪里来，有多少起点往往是错误的，等等。

另一类问题是关于这项技术的社会影响。电池,说。为此，它需要一套完全不同的专业知识。它可以通过了解电池是什么，它是如何工作的，谁可能制造它们，以及它们什么时候会有多好来获得信息。但是为了预测电池对社会的影响，你必须了解社会，了解它们是如何工作的，它们是由什么制成的，而研究电池的人要少得多。那你就得学习更多不同领域的知识。也许你们可以学习很多社会科学和电池技术，但那需要很多时间。

关于研究任何内容，包括未来的主要问题之一就是如何专业化，如何制定劳动分工。像往常一样，就像在软件中一样，劳动分工的关键是界面。您希望在其关节上雕刻大自然，因此接口尽可能简单且稳健，模块化。

你要问，不同问题之间的依赖关系在哪里最小这样你就可以在那里切断专业知识的界限。你说"你们这边的人研究这个问题的答案，那边的人研究那个问题的答案，然后用它做点什么"答案和问题集越小，模块化和独立性就越大，工作也就越容易分离。

每当您有不同的界面的团队时，他们都必须学习关于界面本身的公平位置，以便富有成效。他们必须知道界面意味着什么以及它来自哪里。它的哪些部分是不确定的？它的哪些部分变化了？什么地方是人们认真的，以及界面上的各种各样的东西，他们倾向于撒谎？这是搜索的一部分。

一个很明显，很有道理的界面是在那些预测特定设备将在特定时间以特定价格，具有特定功能的人，和那些谈论这对社会其他部分意味着什么的人之间。在我看来，与我们可以选择的其他界面相比，这是一个相对紧密的界面。

当然，在技术范围内，你可以将其分割。有些人可能很了解锂电池，他们非常了解锂电池，他们可以谈论锂电池的未来。

但如果石墨烯电池即将面世，他们将无法很好地理解这一点。有些人可能专门研究石墨烯电池，或者只是专门研究现有电池的种类，以及它们可能发生的情况。

其他人可能更专注于技术创新的分配。当你画一张时间和能力随时间变化的图表时，这个图表对齐的频率或其他什么，以及当你看到一个短期事物时，它会有多大的误导性，等等?只是对一系列不同的技术历史的认识，以及我们看到的各种不同的发展道路。你可以专门做这个。

但如果你在一个未来主义的领域，没有很多人在做，你应该期望事情更像一个初创公司，你只需要灵活。这并不是因为灵活性在本质上就更有效率。这是因为当有一堆事情要做而没有很多人去做的时候，这是必需的。你必须掌握更广泛的技能，更广泛的方法，考虑更广泛的可能性，接受更频繁的重组，更频繁的改变目标。

我希望有一天严肃的未来主义能像历史一样详细和专业。历史学家将历史领域划分为许多不同的领域和时代，以及许多不同的方面。每个人都可以看到历史上从事职业的人的过往记录，他们关注的领域，以及一系列开放式问题。

然后他们可以进入历史，他们可以选择一个特定的领域，了解历史上的职业是什么样的，了解该领域的其他人，他们获得了什么样的技能，以及怎样才能让人印象深刻。如果未来变得如此专门化，那么未来也会是这样。

只是现在情况并非如此，因为从事这项工作的人少得多。然后你可能要学习更多不同的领域，学习更多不同的技能，接受更多关于什么是重要的，什么是关键问题的改变，只是因为没有很多人在认真研究未来主义。

路加福音:罗宾,你使用这个词“严重的未来主义,”这是我一直在使用这个词的未来学家试图弄明白,而不是满足的需求对未来道德故事,或满足需求对于燃料兴奋谈论的炒作,“哎呀,来自未来的很酷的东西,”等等。

当我尝试做严重的未来主义时，我遇到的大多数来源都没有试图满足弄清楚未来真实的需求。在我找到任何对我的认真的未来主义项目有用的东西之前，我必须通过很多满足其他要求的材料。

从你的角度来看，如果你想尝试犯下认真的未来主义，你对自己的观点有什么看法，让人们对认真的未来主义感到兴奋，向他们展示项目的价值，让他们投资它那里有更多的领域，所以还有更多的人做了所有不同的事情，以弄清楚未来会像什么？

罗宾：有这个世界的人认为自己是严肃的未来主义者。我与他们有限。在我们谈论他们之前，我认为它会通过注意到有许多其他有许多问题的智力领域有助于这一点，我将作为广泛的公共利益，有限的学术兴趣，然后尝试雕刻出一个严肃的这个领域。

两个相对极端的例子是性和外星人。长期以来，这两方面都是人们津津乐道的话题。在很大程度上，学术界在很长一段时间里都避开了这两种方法。后来，一些学者一度试图开辟出一个认真对待这一问题的领域。

在这两个情况下，我认为，在许多其他情况下，您可以看到关键问题是什么。一旦你开始认真参与这个主题，如果你不这样做，那种真的明确区分你是如何从所有其他人这样做的方式做到的，你就像他们一样。然后你在人们的思想中获得了他们的所有属性，当然，他们的所有属性都包括不严肃或值得关注。

例如，对于外星人来说，你可以用来区分自己的第一种方法就是用巨大的射电望远镜在天空中寻找信号。你不会谈论外星人的所有其他方面。你要做的只是用科学的射电望远镜，在天空中寻找信号。你和其他谈论外星人的人有什么不同?

首先，你有一个射电望远镜，而他们没有。其次，你知道如何做很多复杂的信号处理。第三，还有其他人在做信号处理，你只是继承和应用他们的方法，这是标准的事情。这很复杂，你可以去学校学习这些东西，你可以通过那些人的检验知道如何建造射电望远镜和做信号处理。你只是把它应用到外星人身上。嘿。这只是另一个主题。

关于性，他们是这样做的:“我们把人们放在一个房间里，让他们做爱。我们会以社会科学家的标准方式观察他们的一举一动。我们会有同样的选择标准，录音的方法，录音的变化，等等。我们只是用一种非常大的，标准化的方式来做为了表明我们是不同的，我们是认真的。那些人总是喜欢谈论性。但他们不可能这么做。他们甚至不知道我们在说什么。他们不是我们的人。我们不是他们中的一员。”

当然，这意味着，在某种意义上，你抛弃了人们关于性的所有数据，或者至少把它放在一边。你在说，“所有这些人们对性的主张，都来自于这些关于性的日常对话。这句话的意思是:“这对我们来说是不够的，所以我们打算重头再来，看看我们自己的新数据能得出什么结果。”

在未来主义中，有一群是一群未来主义者，他们就像鼓舞人心的演讲者未来主义者，他们只是谈论沿着线条的所有凉爽的东西以及社会如何变化和那种东西。然后有这些学术未来主义者认为自己与之明显不同。

其中许多人专注于收集关于以前技术或预测的数据系列，然后他们将这些数据序列推出，并进行统计投影和预测。他们认为自己是严肃的学者，以及他们将自己与这些未来主义者的方式之一是，如果他们没有数据系列，那么他们不会谈论它。这不是他们一切未来主义的领域。

For my work, I’m taking a risky strategy, which I don’t have any strong reason to expect to succeed, of simply having been a social science professional for a long time, taking a lot of detailed social science knowledge, that most people don’t know, and applying it to my particular scenario, using social science lingo and concepts, and basically saying, “Doesn’t this look different to you?”

基本上我是说，“一个社会科学家，当他们看到这个时，他们会意识到这是在使用专业的，最先进的概念并将它们应用到这个特定的主题中。”

当然，有些人在读我的草稿时，会说:“你提出的细节比我想象的要多得多。”这是我的骄傲。很多人看到这样的场景他们会挥着手说，“看起来我们不可能弄清楚这是怎么回事。”这太难了，也太复杂了。”我回来后会说:“实际上，这是一件很难但并非不可能的事情，所以需要更多的努力。”

路加福音：你提到了这种怀疑论，许多人对我们弄清楚的能力，大概是关于远期的事情，或者以任何细节搞定。

我想到了Vaclav Smil的一句话，来自他的书全球灾难和趋势他在书中特别提到了人工智能:

如果出现优质机器...只是时间问题，那么我们所能做的就是被动地被淘汰。如果可能的发展是可能的，我们没有理性的方式来评估风险。在2025年，自我复制机器人的几率有75％或0.75％的机会......？

这是一种非常悲观的、宿命论的观点，特别是关于我们预测人工智能的能力。实际上，他对纳米技术也是这么说的。你觉得这个怎么样?

罗宾我曾经是一名物理专业的学生，后来是一名物理研究生。在这个过程中，我想我吸收了物理学家的标准世界观，至少是学生的世界观。世界观是伟大的物理学家,当然,和物理学家,如果他们选择,去所有这些其他领域,所有那些人清理没有取得进展,他们可以更快的进步,如果进展是可能的,但是他们真的不想,因为这些东西不像物理那么有趣，所以他们呆在物理领域并取得进展。

对于很多学科来说，他们认为学习任何东西，知道任何东西都是不可能的。对物理学家来说，通常对社会科学的态度基本上是没有社会科学这回事;不可能有社会科学这回事。

当然，你可以观察一些小的模式，但是因为你不能在人身上做实验，或者因为它很复杂，或者不管怎样，这是不可能的。部分原因是，他们可能试了一个小时，想看看自己能做些什么，但走不了多远。

学习一套方法，看到一些困难的问题，尝试一个小时，甚至一天或一周，不会有很大的进展，并认为这是不可能的，特别是当你能清楚地表明你的方法在那里肯定行不通时，这太容易了。

您通常不会知道有任何其他方法可以做任何事情，因为您只学习了某些方法。

很难说无法学习某些东西。说你没有弄清楚任何东西，或者，也许是更容易说出某种方法在那里。更容易想象尝试在某种方法中使用的所有不同路径，即使这也很难。

但是，为了能够说没有人可以学到任何关于这个的东西，为了有一定的权威，你必须对所有的方法有一定的了解，他们可以做什么，并且已经尝试了一段时间。

学者倾向于知道他们的特定领域很好，其方法，然后是其他田地的褪色和模糊。如果你是物理学家，物理学和化学之间的不同是绝大多数重要的。社会学和经济学之间的差异似乎是术语或其他东西，反之亦然。如果您是经济学家，经济学和社会学之间的差异似乎压倒了，物理学和化学之间的区别似乎是挑剔的术语，这意味着大多数人都不知道很多方法。他们不知道你能做的所有不同的东西。

作为一个花了很多时间学习很多不同方法的人，我可以告诉你有很多方法。此外，我敢说，大多数领域都懂得很多。几乎所有的学术领域都有很多文章发表，他们知道很多。

路加福音:谢谢,罗宾!