今天我们发布了我们的第一份技术报告2014年5月车间:“响度:在偏好关系之上的先验本雅·法伦斯坦(Benja Fallenstein)和尼森·斯蒂农(Nisan Stiennon)著。该讲习班的其他技术报告也在进行中。以下是这份报告的摘要:
这是对2014年5月MIRI研讨会上讨论的一个问题的快速总结:如何正式处理关于偏好的不确定性。我们假设真实偏好满足von Neumann-Morgenstern (VNM)公理，因此可以用一个效用函数来表示。看起来我们应该让这个函数的期望最大化。然而，在缺乏更多信息的情况下，这是不明确的;在这种设置中，代表相同VNM偏好的不同效用函数选择可能导致代理做出不同的选择。我们给这个问题的形式化和显示一个先验概率分布的选择VNM偏好关系的选择一起代表这些分布在某种意义上相当于一个数字的选择偏好关系,我们称之为“响度”。(在数学上，“响度先验”可以被看作是偏好关系的概率分布，但这个对象没有一个认知解释。)
