什么是情报？

||yabo app

当被问及他们关于“人为人工智能”的看法 -阿卡“人工普通情报”（AGI）1- 许多专家可以理解地回答这些术语尚未精确定义，并且很难谈论尚未定义的东西。2在这篇文章中，我想简要概述一个不精确但有用的“工作定义”智力我们倾向于在Miri使用。在未来的帖子中，我将写下一些有用的工作定义人工综合情报。

不精确的定义可能是有用的

精确的定义很重要，但我同意Bertrand Russell那个

[你不能]从任何精确开始。你必须达到这样的精确性......你走了。

物理学家米兰·ć·尔科维奇同意给一个例子：

知识的形式化 - 包括精确定义 - 通常在给定场的原始研究结束时，而不是一开始。亚博体育官网特别是照明示例是概念数字才能在20世纪公理集理论的发展之后才能在现代意义上定义。3.

对于一个更多的AI相关示例，考虑“自动驾驶汽车”的概念，该概念已经获得了各种模糊的定义自20世纪30年代以来。会一辆车由埋藏的电缆引导有资格吗？怎么样修改了1955年斯伦布克这可能会使用声波检测障碍物，并在必要时自动搞刹车，但如果每次转弯都被预编程，只能引导“独立”？这是否被视为“自行车”？

关于 ”vamors.“在20世纪80年代，可以避免使用计算机视觉障碍和转向转向的转向，但没有足够先进的前往公共道路准备好？1995年怎么样？纳瓦布开车在美国开车，并完全自主为98.2％的行程，或完成132英里越野路线的机器人车2005年DARPA大挑战，仅与路线的GPS坐标一起提供？赢得胜利的汽车呢？2007年DARPA大挑战，在遵守所有交通法律并避免与其他汽车碰撞的同时完成了城市比赛？做谷歌的无人驾驶汽车有资格，因为它在计算机控制下没有一只事故登录了超过500,000英里的自主英里，但仍然陷入困难的合并和积雪的道路？4.

我们对“自动驾驶汽车”缺乏精确定义，似乎在自动驾驶汽车上没有阻碍进展。5.而且我很高兴我们没有等待认真讨论自动驾驶汽车，直到我们对这个词进行精确定义。

同样，我认为我们不应该在认真讨论这个主题之前等待AGI的精确定义。另一方面，如果它带来术语是没用的不信息。因此，让我们朝着AGI的规定，操作定义工作。我们首先开发操作定义智力。

“智能”的定义

Legg和Huth（2007）发现情报的定义会聚到“智能衡量代理人在各种环境中实现目标的能力”的想法。让我们称之为智能的“优化力量”概念，因为它测量代理人的权力根据其偏好优化世界。

我认为这是对问题的富有成效的方法，因为它识别出外部可衡量的智能表现而不是细节如何可能会实现这种性能（例如，通过意识，蛮力计算，“复杂性”或其他东西）。而且，它通常是表现我们关心：我们倾向于关心一个AI是否能够替代人工，或者是否会在没有人类帮助的情况下提高其自身的能力，而不是是否有一些特殊的内部特征。6.

此外，优化功率的概念使我们能够比较不同种类的代理的智能。作为阿尔巴斯（1991.）说：“智力的有用定义......应包括生物和机器实施例，并且这些智能范围应该跨越昆虫的智力范围，从恒温器到最复杂的计算机系统中的那个亚博体育苹果app官方下载可以建造。“

但是，我想再次考虑一下。如果两个代理有大致相同的能力，根据他们的偏好优化世界，但第二代理需要更多资源来做呢？这些代理具有相同的优化功率，但第一个似乎更加智能地优化。因此，也许我们可以使用“智能”表示“优化权力除以所用的资源” - yudkowsky叫做什么高效的跨域优化。7.

其他定义8.也有他们的优点。但在Miri，我们发现“高效跨域优化”的概念足够有用，即它的智能工作定义是我们的（仍然是不精确的！）工作定义。

在未来的帖子中（编辑：这里），我将讨论一些有用的工作定义人工综合情报。

  1. I use the HLAI and AGI interchangeably, but lately I’ve been using AGI almost exclusively, because I’ve learned that many people in the AI community react negatively to any mention of “human-level” AI but have no objection to the concept of narrow vs. general intelligence. See also Ben Goertzel’s comments这里。↩
  2. 当他认为HLAI将被创建，帕特海耶斯（过去的总统）Aaai.）回答说：“我不认为这个问题是可疑的，因为我不接受这个（普通）的”人级智力“是有意义的。”问同样的问题，AI科学家威廉·乌瑟尔回答说：“你问了很多关于'人类级别的AGI'。我认为这个术语很明确，“虽然AI科学家艾伦邦迪回答说：“我不认为”人级机器智能“的概念形成良好。”↩
  3. Sawyer（1943）给出另一个例子：“数学家首先使用标志№-1，没有最少了解它可能的意思，因为它缩短了工作并导致了正确的结果。人们自然试图了解为什么会发生这种情况，并且真的意味着什么。经过两百年的年度，他们成功了。“丹尼特（2013）发表相关评论：“先生定义你的条款！不，我不会。这将是早产......我的[方法]是一个实例啃在一个艰难的问题上，而不是尝试从一开始就吃（和摘要）整个东西......肘部室我将我的方法与雕塑家的方法进行了比较了在大理石块中粗糙化的方法，谨慎地接近最终表面，谦虚地，通过连续近似地工作。“↩
  4. With self-driving cars, researchers did use many precise external performance measures (e.g. accident rates, speed, portion of the time they could run unassisted, frequency of getting stuck) to evaluate progress, as well as internal performance metrics (speed of search, bounded loss guarantees, etc.). Researchers could see that these bits of progress were in the right direction, even if their relative contribution long-term was unclear. And so it is with AI in general. AI researchers use many precise external and internal performance measures to evaluate progress, but it is difficult to know the relative contribution of these bits of progress toward the final goal of AGI.↩
  5. 哎呀，我们有千年的色情背景仍然没有能够精确定义它。“色情”的百科全书条目经常简单地Quote justice potter stewart：“我今天不会进一步尝试定义我理解的材料类型[色情] ......但是当我看到它时我知道它。”↩
  6. 我们可能会关心机器是否有意识，除了智能之外，我们还有一个方便的术语：意识。特别是，我们可能会关心机器意识，因为ai的慢，ploddent发明可以涉及成像和破坏数百万的部分有意识的接近ais，其接通，持续一段时间，然后关闭 - 全部关闭无法向我们发出信号，他们正在遭受痛苦。如果我们仍然不清楚意识的性质，这是特别可能的几十年的意识，因此没有原则方式（例如，通过非双杠谓词）创建我们的智能机器知道没有意识（因此无法痛苦）。第一个让这一点明确的人之一就是Metzinger（2003），p。621：“如果有人出现并说'嘿，我们想要转基地工程师智障人类婴儿的人！For reasons of scientific progress we need infants with certain cognitive and emotional deficits in order to study their postnatal psychological development—we urgently need some funding for this important and innovative kind of research!’ You would certainly think this was not only an absurd and appalling but also a dangerous idea. It would hopefully not pass any ethics committee in the democratic world. However, what today’s ethics committees don’t see is how the first machines satisfying a minimally sufficient set of constraints for conscious experience could be just like such mentally retarded infants. They would suffer from all kinds of functional and representational deficits too. But they would now also subjectively experience those deficits. In addition, they would have no political lobby—no representatives in any ethics committee.” Metzinger repeats the point inMetzinger（2010），从第194页开始。↩
  7. 不可否认，这仍然含糊不清。精度一步是提出智能定义，作为优化功率，以便在某些规范分布环境中的某些规范分布，用于资源使用的罚款。规范偏好和规范环境可以加权与我们担忧相关的偏好和环境：我们更多地关心AIS是否可以进行科学，而不是他们是否可以画出抽象艺术，我们关心他们是否可以在太阳系中实现其目标亚博体育苹果app官方下载而不是他们是否可以在黑洞内实现目标。还要看看Goertzel（2010）“高效的务实智力”。↩
  8. 希伯德（2011年）;Legg＆Veseness（2011）;王（2008）;Schaul等人。（2011）;Dowe＆Hernandez-orallo（2012）;Goertzel（2010）;Adams等人。（2011）。↩