新论文:“渐近逻辑不确定性和本福德检验”

我们发表了一篇关于逻辑的不确定性，由Scott Garrabrant, Siddharth Bhaskar, Abram Demski, Joanna Garrabrant, George Koleszarik和Evan Lloyd合著:渐近逻辑不确定性与本福德检验”。

Garrabrant给出了他处理逻辑不确定性的一些背景智能代理基金会论坛：

逻辑不确定性的主要目的是学习如何将概率分配给尚未被证明为真或假的逻辑句子。

一种常见的方法是改变问题，假设逻辑上无所不知，只尝试给独立于你的公理的句子分配概率(希望这能给其他问题提供见解)。另一种方法是将自己限制在一组有限的句子或演绎规则中，并假定对它们具有逻辑上的全知。另一种方法是尝试定义和理解逻辑上的反事实，这样你就可以尝试给不一致的反事实世界分配概率。

这三种方法的一个共同点是，它们都试图允许(一种有限形式的)逻辑全知。这很有道理。我们想要一个系统，它亚博体育苹果app官方下载不仅可以分配适当的概率，而且我们可以正式证明它有适当的行为。通过赋予系统一种逻辑全知全能亚博体育苹果app官方下载的类型，您可以使它具有可预测性，从而允许您证明有关它的事情。

然而，还有另一种方法可以证明逻辑不确定性系统。亚博体育苹果app官方下载我们可以用一个程序，给句子分配概率，然后让它永远运行下去。然后我们可以问这个系统最终是否给出了好的概率。亚博体育苹果app官方下载

起初，这种方法似乎在逻辑不确定性中不起作用。任何搜索所有可能证明的机器，最终都会给出一个很好的概率(1或0)给任何可证明或不可证明的句子。为了解决这个问题，当我们给机器越来越多的时间去思考时，我们必须向它提出越来越难的问题。

因此，我们必须分析机器的行为，而不是单个的句子，而是无限的句子序列。例如，不是问机器是否很快将1/10赋给3↑↑↑↑3的概率^{理查德·道金斯}π的数字是一个5，我们看这个序列:

一个_n:=机器在时间步骤2分配的概率ⁿ到n↑↑↑↑n^thπ的数字是5，

问这个数列是否收敛于1/10。

本福德定律是观察到以10为基数的各种随机数(例如，3的随机幂)的第一个数字可能很小:数字1大约有30%的时间排在前面，2大约有18%的时间排在前面，以此类推;9是前位数只有5%。在他们的论文中，Garrabrant等人选择了本福德测试作为一个逻辑不确定推理的具体例子，类似于π的例子:如果机器始终正确地赋予“第一位数字是1”的主观概率，那么它就通过了测试。"数字3的幂f（n),f是速生函数和f（n)无法快速计算。

Garrabrant等人的新论文描述了一种算法，它通过一种非平凡的方式通过Benford检验，通过搜索其真值不能从加权硬币的输出中区分出来的无限序列的句子。

在其他新闻中，报纸趋向于理想化的决策理论”和“反思神谕:古典博弈论的基础现在可以在arXiv上看到。我们将在后一篇论文中呈现一个稍微改变了标题的版本(“反思的神谕:人工智能博弈理论的基础”)LORI-V下个月。

2016年6月12日更新:“渐近逻辑不确定性和本福德测试”已被AGI-16接受。