有限的因素集

||yabo app

这是一个介绍有限因子集的演讲的编辑文本。对于大多数读者来说,这可能是学习因式集的最好的起点。

视频:

(轻微编辑)幻灯片://www.hdjkn.com/files/Factored-Set-Slides.pdf


(第1部分,标题幻灯片)···有限的因素集




(第一部分,动机)···一些背景


史考特:所以我想从一些上下文开始。对于尚未熟悉我的工作的人:

  • 我的主要动机是减少生存风险。
  • 我试图通过试图弄清楚如何做到这一点对齐先进的人工智能。
  • 我试着去做试图成为更少的困惑关于智能,优化,代理以及集群中的各种事物。
  • 我的主要策略是发展一种关于嵌入式在他们优化的环境中。我认为这样做有很多打开的艰难问题。
  • 这让我做了一堆奇怪的数学和哲学。这次演讲将是一个关于一些奇怪的数学和哲学的例子。

对于那些我对我的作品已经很熟悉了,我只想说,根据我个人的审美观,这次演讲的主题是关于逻辑归纳也就是说,我真的很兴奋。看到这些观众,我真的很兴奋;我很高兴现在能做这个演讲。

阅读更多»

2021年5月通讯

||时事通讯

节省时间

||yabo app

注意:这是有限因子分解集的序言,我将在接下来的几周发布一个序列。太平洋时间本周日中午,我将做一个Zoom演讲(关联)推出有限因子集,这是一个框架,我在技术上发现作为逻辑归纳的技术上有趣。

更新5月25日:一个介绍有限因子分解集的视频和博客现在可用这里.)


在过去的几年里,我的大部分研究动机都是试图节省时间的概念,例如,从决策理论问题所产生的亚博体育官网所有奇怪的因果循环中节省时间。这篇文章希望能解释我为什么这么在乎时间,以及我认为需要修正的地方。

为什么时间?

我在简短描述的最佳尝试是那个时间是因果关系.例如,在一个Pearlian Bayes网络中,您从较早的节点绘制到较晚的节点的边。在某种程度上,我们想要考虑因果关系,那么我们就需要理解时间。

重要的,时间是学习和行为发生的基础.当特工们学习时,他们会随着时间的推移而学习。时间的流逝就像一种仪式机会被摧毁,创造了知识.我认为很多学习模式都被微妙地混淆了,因为它们是基于令人混淆的时间概念。

时间对思考代理也至关重要。我最好的短语定义是那个代理就是时间旅行.代理是一种机制,通过它,未来能够影响过去。代理为其行为的未来结果建模,并在这些结果的基础上选择行动。在这个意义上,结果原因这个动作尽管在标准的物理意义上,动作来得更早。

问题:时间很疯狂

时间出问题的主要原因是它“糊涂”。

关于纽科姆的问题,最令人困惑的是,我们想把我们的决定看作是在装满盒子之前做出的,尽管实际上它是在装满盒子之后做出的。这暗示着,除了物理时间之外,我们可能还想理解一些其他的“逻辑”时间。

然而,当我们尝试这样做时,我们遇到了两个问题:首先,我们不知道逻辑时间从何而来,或者如何学习它;其次,我们遇到了一些明显的时间循环。

我打算把第一个问题搁在一边,集中注意第二个问题。

要知道我们为什么会陷入时间循环,最简单的方法就是注意到,物理时间似乎至少和逻辑时间有一点纠缠。

想象一下,有人在运行一个纽科姆问题的物理模拟,并跟踪所有原子的所有细节。从这个角度来看,似乎有一种有用的感觉,即在代理人决定是一盒还是两盒之前,先填满盒子。然而,与此同时,这些原子组成了一个代理,它不应该做出决定,就好像它无力改变任何事情一样。

也许这里的解决方案是,想象有许多不同类型的“前”和“后”,“原因”和“结果”,等等。例如,我们可以说,从代理优先的角度来看,X在Y之前,但从物理优先的角度来看,Y在X之前。

我认为这是对的,我们想要把时间看作是许多不同的系统(希望是可以预测地相互联系的)。亚博体育苹果app官方下载但我不认为这解决了整个问题。

考虑一对FairBot成功执行Löbian握手的代理商在开源囚犯的困境中合作。我想说每个代理商的合作导致其他代理人在某种意义上的合作。我可以说,相对于每个代理的因果的因果/时间顺序是不同的方式,但我认为循环是这种情况下结构的重要组成部分。(我也不肯定我想要与哪个代理商关联的时间。)

我们也旨在以其他原因在我们的时间/因果关系中放回循环。例如,当在持续时间持续存在的系统中建模反馈回路时,我们可能会绘制看起来很像贝叶斯网的结构,但不是亚博体育苹果app官方下载acclic(例如,pomdp)。我们可以将此视为另一个系统的投影,其中包含时间额外的时间,但它是一个有用的投影。亚博体育苹果app官方下载

解决方案:抽象

我的主要希望恢复连贯的时间概念和解开这些时间循环是通过抽象的。

在主体根据结果来选择行为的例子中,我认为存在一个抽象的结果模型它先于行为的选择,先于实际的物理结果。

在Newcomb的问题中,我想说,在填充盒子之前,有一个抽象的动作模型。

在开源囚徒困境中,我想说的是,在代理人员的实际程序跟踪之前,有一个抽象的合作证明。

所有这些都指向同一个方向:我们需要让结构的粗糙抽象版本出现在不同的时间,而不是相同结构的更精细版本。也许当我们正确地允许不同层次的描述在因果链中具有不同的联系时,我们便能够解开所有的时间循环。

但如何?

不幸的是,我们对时间最好的理解是Pearlian因果关系,而Pearlian因果关系并不适合抽象。

珀尔的贝叶斯网有很多变量,但当其中一些变量是其他变量的粗糙抽象版本时,我们就必须考虑到决定论,因为我们的一些变量是彼此的确定性函数;珀尔身上最好的部分与决定论格格不入。

但问题比这更深。如果我们在确定性函数的方向上绘制箭头,我们将从更精细地绘制时间的时间箭头到该结构的较粗糙版本,这与我们所有示例的相反方向。

也许我们可以避免从更细化的节点到更粗的节点绘制这个箭头,而是有一个从粗节点到细化节点的路径。然后我们可以复制粗节点的另一个副本在更细的节点的下游,不增加新的自由度。那么是什么阻止我们交换粗节点的两个副本呢?

总的来说,在我看来,Pearl还没有准备好让一些节点成为其他节点的抽象版本,我认为为了节省时间,需要修复这些问题。


讨论:LessWrong

我们的全时最大的捐赠,以及Vitalik Buterin的主要Crypto支持

||消息

我很激动地宣布MIRI获得两项重大捐赠!

首先,长期支持者在迄今为止提供了Miri,我们最大的捐款:未来四年每年250万美元,2025年额外〜560万美元

这个匿名捐赠来自一位加密货币投资者以前捐赠yabo体育官网下载ios2017年,ETH至MIRI投资101万美元。他们惊人慷慨的新捐赠以3001 MKR的形式出现,MKR是用于Makerdao.这是以太坊区块链上的一个稳定币项目。MIRI收到捐赠的MKR后以15,592yabo体育官网下载ios,829美元清算。有了这笔捐款,匿名捐赠者成为我们有史以来最大的支持者。

这项捐赠有时间限制,MIRI可以在2021-2024年的四个日历年里,每年使用最多250万美元的捐赠。剩下的5,592,829美元将在2025年到期。

其次,在其他惊人的消息中,昨天弗里纳姆的Impereum,Vitalik·帕特林的发明者和联合创始人给了我们令人惊讶的捐款1050年的欧洲人体,价值$ 4,378,159

这是迄今为止对Miri的研究计划的第三大贡献,开放慈善事业之后亚博体育官网2020年津贴〜7700万美元还有上面的匿名捐赠。

Vitalik之前已经向MIRI捐赠了超过10yabo体育官网下载ios0万美元,包括我们2017年筹款的主要支持。

对于这两份前所未有的个人礼物,我们感激不尽!我们衷心感谢两位捐助者。

2021年4月通讯

||时事通讯

3月2021年3月通讯

||时事通讯

2021年2月通讯

||时事通讯

1月2021年1月通讯

||时事通讯