新报告:“已知搜索顺序的UDT”

今天，我们发布了MIRI研究助理Tsvi Benson-Tilsen的一份新技术报告:亚博体育官网已知搜索顺序的UDT文摘:

我们考虑在一个可预测的宇宙中运行一个无更新决策理论的变种的逻辑代理。我们给出了一种算法来预测这种代理人的行为在特殊情况下，他们搜索证明的顺序是简单的，并且他们知道这个顺序。作为一个推论，通过对角化来对抗潜在的伪证明来“与宇宙博弈”是保证这类简单代理的最佳行为的唯一方法。