嵌入式代理- - - - - -决策理论- - - - - -嵌入式世界模型
强大的代表团- - - - - -子系统亚博体育苹果app官方下载对齐
关于好奇心和智力谜题的最后一点:
我描述了一个嵌入式代理，Emmy，说我不明白她是如何评估自己的选择，塑造世界，塑造自己，分解和解决问题的。
过去，当研究人员谈论研究这些问题的动亚博体育官网机时，他们通常关注的是来自人工智能的风险．人工智亚博体育官网能研究人员希望制造出能像人类一样解决多用途问题的机器二元论这不是思考这些系统的现实框架。亚博体育苹果app官方下载特别是，随着人工智能系统变得更聪明，这种近似尤其容易崩溃。亚博体育苹果app官方下载当人们想出如何构建通用人工智能系统时，我们希望这些研究人员能够更好地理解他们的系统，分析他们的亚博体育苹果app官方下载内部属性，并对他们未来的行为有信心。亚博体育官网
这是当今大多数研究人员的动机，他们正在研究无更新的决策理论和子系亚博体育官网统对齐。亚博体育苹果app官方下载我们关心基本的概念谜题，我们认为我们需要弄清楚这些谜题，以便对未来的AI系统有信心，而不需要太依赖蛮力搜索或试错。亚博体育苹果app官方下载
但是，关于我们为什么可能需要或不需要人工智能的特定概念性见解的争论相当长。在此，我不想深入讨论这场辩论的细节。相反，我一直在讨论一组特定的研究方向亚博体育官网智力拼图，而不是作为一种工具性策略。
将这些问题作为工具策略来讨论的一个缺点是，它可能会导致对这些问题的一些误解为什么我们认为这种工作非常重要。通过“工具策略”的视角，我们很容易从一个给定的研究问题和一个给定的安全问题中得出直接的联系。亚博体育官网但这并不是说我想象的现实世界的嵌入式系统“太贝叶斯”了，如果我们不弄清楚目前的理性代理模型出了什么问题，亚博体育苹果app官方下载这就会导致问题。这当然不是我想象未来的AI系统是用二阶逻辑编写的!亚博体育苹果app官方下载在大多数情况下，我并没有试图在研究问题和亚博体育官网特定AI故障模式．
相反，我想的是:当我们试图思考代理是什么时，我们似乎确实使用了错误的基本概念，正如我们所看到的，这些概念并没有很好地转移到更现实的嵌入式框架中。
如果未来的AI开发者是仍然当他们试图构建强大的现实世界的优化器时，使用这些困惑和不完整的基本概念，这似乎是一个糟糕的位置。而且似乎研究界不太可能在试图开发更有能力的系亚博体育官网统的过程中，默认地解决大部分问题。亚博体育苹果app官方下载进化当然是通过蛮力搜索，在不“理解”任何这些的情况下构建人类大脑。
嵌入式代理是我试图指出我认为是一个非常重要和中心的地方，我感到困惑，我认为未来的研究人员也可能会陷入困惑。亚博体育官网
也有很多优秀的人工智能对齐研究正在进行，着眼于更直接的应用;亚博体育官网但我认为安全性研究与我在这里谈到的谜题有着不同的类型特亚博体育官网征。
求知欲并不是我们选择这些研究方向的根本原因。亚博体育官网但是有一些实用从一个好奇的地方导向研究问题的优势，而不是亚博体育官网只运用“实际冲击”镜头我们如何看待这个世界。
当我们用好奇的眼光看待这个世界时，我们瞄准了阻碍我们看清事物的困惑根源;地图上的空白点，镜头上的瑕疵。它鼓励检查假设和盲点,有助于心理与我们的“工具性战略”角度后者更容易瘦的冲动在任何可靠的前提下我们手头上我们可以得到更多的可靠性和闭包在我们的早期思想。
嵌入式代理是我们大多数，即使不是全部，大好奇心背后的组织主题。这似乎是隐藏在许多具体困难之下的一个核心谜团。
你喜欢这个帖子吗?你可以享受我们的另一个yabo app 的帖子,包括:
