即将在哈佛和麻省理工学院举行的演讲

||新闻

保罗&以利以谢10月15日下午4:30-5:30,MIRI工作坊参与者保罗global将在?哈佛大学科学中心, 507室,作为哈佛大学的逻辑研讨会和座谈会。

克里斯蒂安诺的标题和摘要是:

概率元数学和真理的可定义性

对于所有的S, M |= T(“S”)当且仅当M |= S,一个充分表达理论的模型M不能包含一个真谓词T。和显示有概率分布模型包含一个“客观概率函数”P, M | = < P(“S”)< b时几乎肯定< P (M | = S) < b。这表明概率模拟的真理谓词是可能的,只要我们允许无穷小不精确。我认为这个结果大大削弱了Tarski的不可定义性定理的哲学意义,并展示了所涉及的技术如何可以更广泛地应用于解决由于自我参照而产生的障碍。

占据中心然后,在10月17日从4:00-5:30pm,斯科特Aaronson将主持一场由MIRI研究员主持的讲座亚博体育官网以利以谢Yudkowsky

尤多科夫斯基的演讲比克里斯蒂安诺的更容易理解,而且会在麻省理工学院雷和玛丽亚斯塔中心(见右图),房间32-123(又名Kirsch礼堂,有318个座位)。在讲座开始前15分钟供应茶点。尤多科夫斯基的标题和摘要是:

理性代理的递归:自修正人工智能的基础

反思性推理是人类认知中一个熟悉但形式上难以捉摸的方面。当我们考虑构建人工智能时,这个问题就会成为最重要的问题,因为我们考虑的是构建其他复杂推理者的模型,或者谁可能设计其他和自己一样复杂的人工智能。数学逻辑,作为一种能够自我反思的形式语言的最发达的竞争者,被不可能的结果所困扰。同样,标准决策理论在应用于有详细自我认知的代理时,开始产生反直觉或不连贯的结果。在这次演讲中,我将介绍一些早期成果,这些成果来自于机器智能研究所为应对这些挑战而举办的研讨会。亚博体育官网

第一个是Hofstadter的“超理性”的形式化和显著改进,这是一种(非正式的)想法,即理想的理性行为者可以通过利用自己的行动和对手的行动之间的逻辑联系,在囚徒困境等游戏中实现相互合作。给出了在给定源代码互知识的情况下,如何实现一个可靠地优于经典博弈论的agent,并利用一般程序实现一次囚徒困境下的相互合作。使用一种快速的查找不动点的算法,我们能够编写执行形式化所必需的逻辑交互的代理的实现,并且我们描述了经验结果。

其次,有人声称哥德尔的第二个不完全性定理严重阻碍了任何人工智能理解自己的推理为何可行,甚至是相信它是可行的。我们为这种情况提供了一个简单的模型,并表明对这个问题的直接解决方案确实是不令人满意的,这导致了agent愿意信任较弱的同伴,而不是自己的推理。我们将展示如何在不损害逻辑表达的情况下规避这个困难。

如果时间允许,我们还描述了一个更一般的议程,通过用合适的概率推理形式取代逻辑推理来避免自我参照的困难。这个程序的目标是将逻辑上的不可证明性或不可定义性转化为很小的概率错误,这些错误可以被安全地忽略(甚至可以在哲学上被证明)。

此外,在10月18日在晚上7点将有一个更少的错误/理性的方法麻省理工学院校园聚会/派对大厦6, 120房间。会有点心和茶点,尤多科夫斯基也会出席。