捐赠者故事1:注意推理距离

||客人的帖子

到目前为止,2013年是MIRI募资最成功的一年(稍后会有更多细节),所以现在我们正在和我们的捐赠者讨论:“好吧,什么完全我们是这样做的吗正确的?”

下面是一位捐赠者的故事,匿名并经允许发表:

我捐赠的决定很大程度上取决于Myabo体育官网下载iosIRI与LessWrong.我确实调查了MIRI本身,阅读了博客和文件,并做了一些事实核查。但这在很大程度上是理智的检查,因为我在LessWrong上的互动说服了我去捐赠。yabo体育官网下载ios

一开始,我并不太相信捐赠,因为我确信FAI是一个比我之前担心的更紧迫的问题。yabo体育官网下载ios一旦我相信了这一点,问题就不再是我是否会为FAI的研究捐款,而是我应该把精力集中在哪里。亚博体育官网yabo体育官网下载ios

在我意识到这一点后,我yabo体育官网下载ios选择捐赠给MIRI

  1. 很少有人意识到uFAI带来的问题。
  2. 在这些人当中,许多人在理解不了这个问题后就对它不予理会。

这听起来可能有些自大。让我来解释一下:

也许自相矛盾的是,让我相信MIRI的最大因素之一是霍尔顿Karnofsky的批判的组织。在我看来,霍尔顿的人工智能工具建议和他的其他一些反对意见显然是愚蠢的。后来,我读了路加福音以利以谢他拒绝这些观点的原因与我拒绝这些观点的原因相似。这让我相信路加和以利以谢所工作的组织是非常重要的。

这种情况在大的讨论和小的评论中多次出现。我发现有很多人反对uFAI,认为这是一个问题,他们中的绝大多数人从根本上误解了这种关注。

我并不认为霍尔顿·卡诺夫斯基或其他持不同政见者是愚蠢的,也不认为他们被误导了。我特别尊重卡诺夫斯基:他非常聪明,他在做令人难以置信的工作。我当然不是在暗示我比他或任何质疑mii任务的人都聪明。

更确切地说,我一直在为粗俗的想法辩护。我经常发现自己站在推论的差距.长期以来,我一直相信,聪明人会从根本上误解最重要的问题。我经常试图琢磨出一个奇怪的想法,结果却让讨论伙伴在得到真正的问题前四步就陷入了推论的鸿沟。

许多关于FAI的讨论——其中最主要的是Karnofsky的批评——使我相信FAI是同一类问题。人们会陷入争论这个问题是否真的是个问题,很难找到真正在寻找解决方案的人,而不是在争论解决方案是否有必要。

这是我信任mii的主要原因:这些讨论让我确信,我应该期待缺乏适当关注的专家。

我没有想到在MIRI之外还有组织存在FHI我相信他们会解决我所看到的问题。许多聪明的人无意中发现了推理上的漏洞,这让我对其他有着类似使命的组织保持谨慎:即使他们的目标听起来不错,也很难让我相信他们的领导能够避免常见的陷阱。

相比之下,路加,以利以谢和尼克·博斯特罗姆通过许多博客文章、讨论和论文,一次又一次地展示了他们的能力。他们慢慢建立起我现在对MIRI和FHI的信任。

我知道这听起来仍然很傲慢,我也明白这一点。我是通过以利以谢的作品接触到这些问题的,因此,我不得不期待人们会偏向以利以谢的观点。事实上,我以最少的考虑驳回了很多非常聪明的人的争论,这引发了一些危险信号。事实上,这个领域充满了误解,这意味着我应该预见到自己的一些误解。

我知道这一切,我花了很长时间试图解释这些观点。这个决定并不是轻易做出的:在我有足够的信心向MIRI捐款之前,我花了整整四个月的时间来反思、研究和思考。亚博体育官网yabo体育官网下载ios在这段时间内,我对相反的观点有了更多的尊重,但我的结论并没有改变。

我从另一端走出来,确信uFAI是一个紧迫的问题,FAI研究是重要的,而且该领域充满了地雷。亚博体育官网MIRI仍然是为数不多的几个组织之一,他们已经说服我,他们有机会成功地在这个雷区导航。

当然,这些结论在当时在我的头脑中并不是那么清晰。总是有更多的思考要做,更多的反思要做,更多的事实要检查之前移动的钱堆。与此同时,生活继续发生着:工作和休闲占据了我决定钱该花到哪里的优先权。这是夏天匹配的挑战这终于迫使我伸出手来,把我从幻想中摇了出来,给我提供了一个下手的好借口yabo体育官网下载ios