美国国际集团是什么?gydF4y2Ba

当谈到人工通用智能(AGI)时，我们听到的最常见的反对意见之一是“AGI的定义不明确，所以你不能对它说太多。”gydF4y2Ba

在一个gydF4y2Ba之前的帖子gydF4y2Ba，我指出我们gydF4y2Ba经常gydF4y2Ba在做一些有用的工作时，对事物没有精确的定义，就像“数字”和“自动驾驶汽车”的概念一样。gydF4y2Ba

不过，我们必须这么做gydF4y2Ba一些gydF4y2Ba明白我们在说什么了。gydF4y2Ba早些时候gydF4y2Ba我给“智力”下了一个粗略的定义。在这篇文章中，我解释了AGI的概念，并提供了几种可能的方法gydF4y2Ba操作定义gydF4y2Ba有类似的想法。gydF4y2Ba

AGI的想法gydF4y2Ba

如前所述，“一般智力”的概念是指能力gydF4y2Ba非常高效。gydF4y2Ba跨域gydF4y2Ba优化gydF4y2Ba．或者像本·格策尔喜欢的那样gydF4y2Ba说gydF4y2Ba，“在复杂环境中使用有限的计算资源实现复杂目标的能力。”另一个与一般智力有关的概念是将学习从一个领域转移到其他领域的能力。gydF4y2Ba

为了说明这个观点，让我们考虑一些可以gydF4y2Ba不gydF4y2Ba可以算作一般智力。gydF4y2Ba

电脑gydF4y2Ba显示gydF4y2Ba在某些任务上的表现远远超过人类，在其他任务上的表现大致相当于人类的水平，而在其他任务上的表现则低于人类。如果一组研究人员能够将许多亚博体育官网表现最好的gydF4y2Ba狭窄的人工智能gydF4y2Ba“把算法整合到一个系统中，就像谷歌可能试图做亚博体育苹果app官方下载的那样，gydF4y2Ba^1gydF4y2Ba他们会有一个巨大的“组装AI”，在大多数任务中表现糟糕，在某些任务中表现平庸，在少数任务中表现超人。gydF4y2Ba

就像“组装人工智能”一样，特定的人类在大多数任务上表现糟糕或平庸，在少数任务上远远优于平均水平。gydF4y2Ba^2gydF4y2Ba另一个相似之处是，“组装人工智能”可能会显示出许多不同的狭义认知能力之间的测量相关性，就像人类一样(因此有了“gydF4y2BaggydF4y2Ba和智商gydF4y2Ba^3.gydF4y2Ba):如果我们给组装人工智能更多的硬件，它可以使用这些硬件来提高它在许多不同狭窄领域的性能。gydF4y2Ba^4gydF4y2Ba

另一方面，Kludge AI(目前)还没有做到这一点gydF4y2Ba一般智力gydF4y2Ba，因为它不一定有能力在任意的环境中解决任意的问题，不一定能把学习从一个领域转移到另一个领域，等等。gydF4y2Ba

AGI的操作定义gydF4y2Ba

我们能说得更具体一点吗?一般智力的概念gydF4y2Ba是gydF4y2Ba难以实施。下面我考虑AGI的四种操作定义，按难度(显然)的递增顺序排列。gydF4y2Ba

图灵测试(罗布纳奖10万美元解释)gydF4y2Ba

的gydF4y2Ba图灵测试gydF4y2Ba提出了在gydF4y2Ba图灵(1950)gydF4y2Ba，并有多种解释(gydF4y2Ba2003年摩尔人gydF4y2Ba)．gydF4y2Ba

一个具体的解释是获胜的条件gydF4y2Ba100000美元罗布纳奖gydF4y2Ba．自1990年以来,gydF4y2Ba休·罗布纳gydF4y2Ba为第一个通过年度测试的人工智能项目提供了10万美元gydF4y2Ba罗布纳奖的竞争gydF4y2Ba．每年都会给表现最好的人工智能程序颁发较小的奖项，但没有哪个程序表现得足够好，赢得10万美元的奖金。gydF4y2Ba

的gydF4y2Ba确切的gydF4y2Ba赢得10万美元奖金的条件将不会确定，直到一个程序赢得2.5万美元的“银奖”，这还没有完成。然而，我们确实知道情况会如此gydF4y2Ba某物gydF4y2Ba比如:一个程序如果能让一半的评委以为它是人类，并与他们进行30分钟的自由对话，就能赢得10万美元gydF4y2Ba和gydF4y2Ba解释视听输入。gydF4y2Ba

咖啡的测试gydF4y2Ba

Goertzel等人(2012年)gydF4y2Ba建议一个(可能)更困难的测试——“咖啡测试”——作为AGI的潜在操作性定义:gydF4y2Ba

走进一个普通的美国家庭，弄清楚如何煮咖啡，包括识别咖啡机，弄清楚按钮的作用，在橱柜里找到咖啡，等等。gydF4y2Ba

如果机器人能做到这一点，也许我们应该认为它具有一般智能。gydF4y2Ba^5gydF4y2Ba

机器人大学生考试gydF4y2Ba

Goertzel写到(2012)gydF4y2Ba提出了一个(可能)更具挑战性的操作定义——“机器人大学生测试”:gydF4y2Ba

当一个机器人能进入人类的大学，像人类一样上课，并获得学位，那么我就可以说我们创造了一个……人工智能。gydF4y2Ba

就业测试gydF4y2Ba

尼尔斯·尼尔森gydF4y2Ba一位人工智能的创始研究人员，曾经提出了一亚博体育官网个对“人类级人工智能”(我一直称之为AGI)要求更高的操作性定义gydF4y2Ba就业测试gydF4y2Ba：gydF4y2Ba

显示出真正人类水平智能的机器应该能够做许多人类能做的事情。在这些活动中，人们所从事的任务或“工作”。我建议用我称之为“就业测试”的东西来取代图灵测试。要想通过就业测试，人工智能程序必须gydF4y2Ba潜在的gydF4y2Ba经济上重要的工作(完全自动化)。gydF4y2Ba^6gydF4y2Ba

为了更完整地开发这个操作性定义，可以提供一个“经济上重要的工作”的权威列表，生成一个特殊的gydF4y2Ba职业考试gydF4y2Ba每一份工作(例如，美国驾照考试要求的笔试和驾驶考试gydF4y2Ba商业驾照gydF4y2Ba)，并衡量机器在职业考试中的表现。gydF4y2Ba

这有点“不公平”，因为我对此表示怀疑gydF4y2Ba单gydF4y2Ba人类可以通过这样的职业考试，从事任何一长串经济上重要的工作。另一方面，如果他们用一生的时间来训练每一项技能，并且有一个AGI——拥有近乎完美的记忆，更快的思维速度，不需要睡觉，等等——那么，许多非常有技能的人很可能能够通过所有或几乎所有的职业考试大概能够更快地训练自己掌握所有必需的技能，gydF4y2Ba如果gydF4y2Ba它拥有一种我们试图通过操作来定义的普遍智能。gydF4y2Ba

未来是模糊的gydF4y2Ba

这些AGI的操作定义中的一个或多个似乎很有说服力，但是回顾一下历史应该会让我们懂得一些谦卑。gydF4y2Ba

几十年前，一些领先的人工智能科学家似乎认为人类水平的表现在gydF4y2Ba国际象棋gydF4y2Ba可以代表agi比例的成就。这里有gydF4y2BaNewell等人(1958)gydF4y2Ba：gydF4y2Ba

国际象棋是智力游戏gydF4y2Ba最卓越的gydF4y2Ba如果有人能设计出一台成功的象棋机，那么他似乎已经深入到人类智力努力的核心。gydF4y2Ba^7gydF4y2Ba

直到1976年，I.J.古德gydF4y2Ba断言gydF4y2Ba在计算机国际象棋中人类水平的表现是AGI的一个很好的标志，它写道:“一个具有特级大师力量的计算机程序将把我们带进(机器超智能)的a级。”gydF4y2Ba

但是，大约15年前，机器就已经超过了人类最好的国际象棋选手，而我们似乎离AGI还有几十年的距离。gydF4y2Ba

自动驾驶汽车的惊人成功可能会给我们上另一堂谦逊的课。如果我在上世纪60年代是一名人工智能科学家，我很可能会认为一辆自动驾驶汽车的性能像gydF4y2Ba谷歌的无人驾驶汽车gydF4y2Ba将表明AGI的到来。毕竟，一辆自动驾驶汽车必须在一个极其复杂、动态和不确定的环境中，即现实世界中，以高速实现高度自动驾驶。它还必须(在极少数情况下)面对真正的道德困境，比如哲学家的困境gydF4y2Ba电车问题gydF4y2Ba．相反，谷歌在制造无人驾驶汽车时采用了一系列我在上世纪60年代可能想不到的“诀窍”——例如，高精度地绘制出该国几乎每一条道路、高速公路入口匝道和停车场的地图gydF4y2Ba之前gydF4y2Ba它制造了无人驾驶汽车。gydF4y2Ba

结论gydF4y2Ba

那么，什么是AGI的良好操作定义呢?我个人倾向于尼尔森的就业测试，但是gydF4y2Ba你gydF4y2Ba当你谈到AGI时，你可能会想到别的东西。gydF4y2Ba

随着AGI越来越近，我预计在未来20年的某个时候会选择一个新的工作定义，但尼尔森的操作化将暂时做到。gydF4y2Ba

确认gydF4y2Ba

感谢Carl Shulman, Ben Goertzel和Eliezer Yudkowsky对这篇文章的反馈。gydF4y2Ba

1. 在一个gydF4y2Ba面试gydF4y2Ba与gydF4y2Ba寄存器gydF4y2Ba他是研究主管亚博体育官网gydF4y2Ba阿尔弗雷德·斯佩克特gydF4y2Ba他说:“我们拥有知识图谱、解析自然语言的能力、神经网络技术以及从用户那里获得反馈的巨大机会……如果我们将所有这些东西结合在一起，不断提供反馈，我们的系统就会变得……智能。”亚博体育苹果app官方下载斯佩克特称之为“组合假说”。gydF4y2Ba↩gydF4y2Ba
2. 然而，可能有很多弱势的人类并不是这样的，因为他们并没有表现出远远高于平均水平的表现gydF4y2Ba任何gydF4y2Ba任务。gydF4y2Ba↩gydF4y2Ba
3. 心理学家现在普遍认为，除了更具体的心理能力外，还有一个普遍的智力因素。有关现代综合的介绍，请参阅gydF4y2Ba哥(2011)gydF4y2Ba．有关详细信息，请参阅gydF4y2Ba斯特恩伯格与考夫曼(2011)gydF4y2Ba．如果你读过科斯玛·沙利兹的热门文章gydF4y2BaggydF4y2Ba，一个统计神话gydF4y2Ba，请同时阅读其反驳gydF4y2Ba在这里gydF4y2Ba和gydF4y2Ba在这里gydF4y2Ba．gydF4y2Ba↩gydF4y2Ba
4. 在心理学上，进行因子分析gydF4y2Ba人类之间gydF4y2Ba．在这里，我建议假设可以做一个类似的因素分析gydF4y2Ba在不同的组装人工智能之间gydF4y2Ba不同的Kludge ai基本上运行着相同的软件，但可以访问不同的计算量。然而，这个类比不应该用得太过了。例如，高智商的人的大脑并不比其他人类大很多。gydF4y2Ba↩gydF4y2Ba
5. 咖啡测试的灵感来自史蒂夫·沃兹尼亚克的预言，他说我们永远不可能“制造出一个可以走进陌生房子冲咖啡的机器人”。gydF4y2BaAdams等人，2011年gydF4y2Ba)．沃兹尼亚克最初的预测是在gydF4y2Ba《微电脑世界》gydF4y2Ba2007年7月19日的作品gydF4y2Ba史蒂夫·沃兹尼亚克的三分钟gydF4y2Ba．gydF4y2Ba↩gydF4y2Ba
6. 首先，尼尔森提出，要想通过雇佣测试，“人工智能程序必须能够完成通常由人类完成的工作。”但后来，他修改了这一规范:“为了就业测试的目的，我们可以巧妙地处理人类工作是否具有挑战性的问题gydF4y2Ba实际上gydF4y2Ba自动化。相反，我建议，我们可以测试一下我们是否有gydF4y2Ba能力gydF4y2Ba自动化他们。”他提出这一修改的部分原因是“今天的许多工作可能会消失——就像制造业的马车鞭子一样。”gydF4y2Ba↩gydF4y2Ba
7. 过了一会儿，他们又加了一句警告:“现在可能有一个技巧……就像人类腿上的轮子一样:一种与人类方法完全不同的设备，但它的方式极其有效，也许非常简单。”这样的设备可能下得很好，但是……不能进一步加深我们对人类智力过程的理解。当然，这一奖项本身也是值得发现的，但是目前看来还没有这样的东西。”gydF4y2Ba↩gydF4y2Ba