新论文:“渐近逻辑不确定性与本福德检验”

我们发表了一篇关于逻辑的不确定性，由Scott Garrabrant、Siddharth Bhaskar、Abram Demski、Joanna Garrabrant、George Koleszarik和Evan Lloyd合著。渐近逻辑不确定度与本福德检验”。

Garrabrant给出了他处理逻辑不确定性的方法的一些背景智能代理基金会论坛：

逻辑不确定性的主要目标是学习如何分配概率的逻辑句子，尚未被证明是真的或假的。

一个常见的方法是改变问题，假设逻辑上无所不知，只尝试分配概率给那些独立于你的公理的句子(希望这能让你对另一个问题有所了解)。另一种方法是把自己限制在有限的句子或演绎规则的集合中，并假定它们在逻辑上是无所不知的。另一种方法是尝试定义和理解逻辑上的反事实，因此您可以尝试为不一致的反事实世界分配概率。

这三种方法的一个共同点是，它们都试图允许逻辑全知(一种有限的形式)。这很有道理。我们想要一个系统，它亚博体育苹果app官方下载不仅能分配合理的概率，而且能正式证明它有合理的行为。通过赋予系统一种逻辑上的全知亚博体育苹果app官方下载能力，你可以让它变得可预测，这让你可以证明一些事情。

然而，还有另一种方法可以证明逻辑不确定性系统。亚博体育苹果app官方下载我们可以用一个程序把概率赋给句子，然后让它永远运行下去。然后我们可以问系统最终是否给出了好的概率。亚博体育苹果app官方下载

起初，这种方法似乎不适用于逻辑上的不确定性。任何搜索所有可能证明的机器最终都会给任何可证明或不可证明的句子一个很好的概率(1或0)。为了解决这个问题，当我们给机器越来越多的时间思考时，我们必须问它越来越难的问题。

因此，我们必须分析机器的行为，而不是单个句子，而是无限序列的句子。例如，不是问机器是否快速地将3↑↑↑↑3的概率赋值1/10^{理查德·道金斯}π的数字是5，我们看这个序列:

一个_n:=机器在时间步2分配的概率ⁿ到n↑↑↑↑n^thπ的一位等于5，

问这个数列是否收敛于1/10。

本福德定律观察到以10为基数的各种随机数(例如，3的随机幂)的第一个数字很可能很小:数字1在30%的情况下在前面，2在18%的情况下在前面，以此类推;9只在5%的情况下是领先的数字。Garrabrant等人在他们的论文中选择了本福德测试作为逻辑不确定推理的一个具体例子，类似于π的例子:一台机器通过了测试，只要它始终如一地赋予“第一个数字是1”正确的主观概率。3的幂f（n),f一个快速增长的函数和f（n)是不能很快计算出来的。

Garrabrant等人的新论文描述了一种算法，该算法以一种非平凡的方式通过本福德检验，即搜索无限序列的句子，这些句子的真值不能与加权硬币的输出值区分开来。

在其他新闻中，报纸"走向理想决策理论”和“反射神谕:经典博弈论的基础现在可以在arXiv上找到。我们将发表后一篇论文的一个版本，标题略有改动(“反射式预言:人工智能博弈论的基础”)LORI-V下个月。

2016年6月12日更新:“渐近逻辑不确定性和本福德测试”已被AGI-16接受。