嵌入式趣闻

||yabo app

这是的结论嵌入式代理系列。曾任:

嵌入式代理-决策理论-嵌入式世界的模型
强大的代表团-子系统亚博体育苹果app官方下载对齐


在好奇心和智力拼图的最后一个字:

我描述的嵌入式代理,艾美奖,并说,我不明白她是怎么评价她的选择,模型的世界,自己的模型,或分解并解决问题。

在过去,当研究人员谈到动机对这类问题亚博体育官网的工作,他们一般集中在从动机AI风险。AI研亚博体育官网究者希望建立一个可以解决人类的通用方式问题的机器,和二元论是不是想这样的系统中一个现实的框架。亚博体育苹果app官方下载特别是,它是很特别容易打破的AI系统变得更加智能的近似值。亚博体育苹果app官方下载当人们搞清楚如何构建通用的人工智能系统,我们希望这些研究人员能够更好地理解他们的系统,分析其内亚博体育苹果app官方下载部性能,并且在其未来的行为有信心。亚博体育官网

这是对当今大多数研究者谁是上之类的东西updateless决策理亚博体育官网论和子系统对准工作的动机。亚博体育苹果app官方下载我们关心,我们认为我们需要为了实现未来的AI系统的信心,而不必依赖相当这么多强力搜索或反复试验来搞清楚基本概念难题。亚博体育苹果app官方下载

但为什么我们可能会或可能不会需要在AI方面的特定概念的见解的观点是相当长的。我还没有尝试涉水进入这里讨论的细节。相反,我一直在讨论一组特定的研究方向为亚博体育官网智力拼图,而不是作为一种工具的策略。

在讨论这些问题作为工具的策略一个缺点是,它可能导致的一些误解为什么我们认为这样的工作是非常重要的。随着“器乐战略”的镜头,人们很容易得出从给定的研究课题直接行给定的安全问题。亚博体育官网但它不是我想象真实世界的嵌入式系统是“太贝叶斯”,这在某种程度上造成的问题,如果我们不搞清楚什么是错的理亚博体育苹果app官方下载性机构的现有模式。这当然不是我想象被写入二阶逻辑未来的人工智能系统!亚博体育苹果app官方下载在大多数情况下,我并不想画研究问题和之间的直接线亚博体育官网具体AI故障模式

What I’m instead thinking about is this: We sure do seem to be working with the wrong basic concepts today when we try to think about what agency is, as seen by the fact that these concepts don’t transfer well to the more realistic embedded framework.

如果AI开发商在未来的仍然这些困惑和不完整的基本概念的工作,因为他们试图真正建立强大的现实世界的优化,这似乎是一个不好的位置是在,而且它似乎是研究界是不可能想出解决办法的最默认情况下,在使用过程中亚博体育官网只是试图开发更强大的系统。亚博体育苹果app官方下载进化肯定想出如何建立人类大脑没有“理解”任何这一点,通过强力搜索。

嵌入式代理是我的什么,我认为是我感到困惑一个非常重要的中心位置,并在我认为,未来的研究者风险运行到混乱太想点办法。亚博体育官网

还有很多特别是与朝更直接应用的眼睛做了出色的AI比对研究;亚博体育官网但我认为,安全性研究,具有比我谈到这里的谜题不同类型的亚博体育官网签名。


求知欲不是最终的原因,我们的特权,这些研究方向。亚博体育官网但也有一些实际的优势向来自有时一个地方的好奇心研究问题定向,而不是亚博体育官网只有采用“实际影响”镜头我们如何思考这个世界。

当我们运用好奇心镜头的世界,我们对定位的混乱使我们无法看清的来源;在我们的地图的空白点,在我们的镜头中的缺陷。它鼓励重新检查假设和参加盲点,这是一种心理对位到我们的“工具性策略”镜头,后者更容易冲动依靠我们手头上的任何不稳定的前提,所以我们可以得到有益的更坚固和关闭在我们早期的思想。

嵌入式代理是最落后的组织的主题,如果不是所有的大珍品。这似乎是一个神秘的中央底层许多具体的困难。

你喜欢这个岗位?您可以享受我们的其他yabo app 职位,其中包括: