迈克尔·费雪是计算机科学教授，专门研究逻辑方法和自动形式验证，以及多学科的主任自动系统技术中心亚博体育苹果app官方下载在利物浦大学并且是逻辑与计算组在计算机科学系。
费雪教授也是两个BCS和专业，也是英国计算研究委员会亚博体育官网。他是这个系的系主任工业联络委员会。
路加福音Muehlhauser:在“验证自治系统亚博体育苹果app官方下载(2013)，你和你的合著者总结了一些最近正式验证自主系统的方法。亚博体育苹果app官方下载你曾写道:
许多自主系统，包括无人机、机器人亚博体育苹果app官方下载、卫星，甚至纯粹的软件应用程序，都有类似的结构，即图1所示的分层架构。尽管纯粹的连接主义/次符号体系结构在某些领域(如机器人)仍然流行，但人们普遍认识到，将重要/困难的选择分离为一个可识别的实体对于开发、调试和分析非常有用。虽然这种分层架构已经被研究了很多年，但它们在自治系统中越来越普遍。亚博体育苹果app官方下载
附图为:
你认为“典型的混合自主系统架构”有多普遍?亚博体育苹果app官方下载例如，你认为这种架构是在20个不同的现实世界应用程序中使用，还是200个不同的现实世界应用程序，或者可能更多?你认为现在有支持这种建筑的趋势吗?你认为在机器人领域是否也有这种架构的趋势?
迈克尔·费雪很难得到关于自主系统的内部架构的确切证据，特别是商业系统，所以我只有关于以这种方式构建的系统的零星信息。亚博体育苹果app官方下载然而，从我与学术界和工业界(航空航天和汽车)的工程师的讨论来看，这种架构的使用似乎在增加。它可能不被称为“代理体系结构”，事实上，“决策者”可能根本不被称为“代理”，但具有单独的“执行”或“控制模块”的系统，显式地处理高级决策，适合我们的模型。亚博体育苹果app官方下载
我不确定机器人架构是否也在朝着这个方向发展，但似乎有一个主题是增加一个“监控器”或“管理者”，可以在机器人采取行动之前评估拟议行动的安全性或道德1,2。这也可以看作是一个做高级决策(允许什么，阻止什么)的附加代理，因此这种方法也可以看作是各种混合代理体系结构。
路加福音在同一篇论文中，你和你的合著者对此进行了解释
因为自主软件必须自己做决定，所以不仅要知道软件做什么，什么时候做，还要知道它是什么为什么软件选择这样做。
在复杂的动态系统中捕捉这种自主行为的一个非常有用的抽象概念被证明是代理的概念。亚博体育苹果app官方下载自从代理概念在20世纪80年代出现以来，在学术界和产业界都有了巨大的发展。现在已经很清楚了，这个代理比喻对于捕获许多实际情况非常有用，这些情况涉及由灵活、自治和分布式组件组成的复杂系统。亚博体育苹果app官方下载本质上，主体必须从根本上具备灵活自主的行为能力。
然而，事实证明，“代理”概念本身仍然不够!亚博体育苹果app官方下载由神经网络、遗传算法和复杂控制系统等控制的系统，都可以自主行动，因此被称为代理，但它们行动的原因往往是相当不透明的。正因为如此，这样的系统很难开发、控制和分析。亚博体育苹果app官方下载
a的概念理性的代理变得越来越受欢迎。同样，有很多变化但我们认为这是一个做出选择是否有明确的理由，如果有必要，是否应该解释这些原因。
我之前研究过不同AI方法的相对透明度安全关键系统的透明度亚博体育苹果app官方下载在那里我问:
方法的透明度如何随比例变化?一个有200个规则的逻辑AI可能比一个有200个节点的贝叶斯网络更透明，但是如果我们比较10万个规则和10万个节点呢?至少我们可以查询而对于基于逻辑的系统，我们就不能这样做了。亚博体育苹果app官方下载
你认为理性代理模型的透明度会有多大?或者，您是否认为未来自治系统的“理性代理”部分将保持相当小(例如，使其透明化和验证)，即使在体系结构中较低“层”的子系统可能会在亚博体育苹果app官方下载复杂性上大幅增长?
迈克尔我想说的是，即使理性行动者的数量在增加，他们内部的高层规则仍然是相对透明的。只是证明/分析机制不能很好地扩展。
所以，正如你所说，我们的目的是尽量减少理性代理部分。正式的验证是相当昂贵的，因此对非常大的代理的任何验证都可能是不可行的。
通过只处理高级的、理性的代理决策，我们旨在避免处理整个系统的巨大状态空间。亚博体育苹果app官方下载逻辑(特别是BDI)规则的使用将我们从低级别的细节中抽象出来。
关于您关于“100,000条规则vs. 100,000个节点”的问题，我希望所使用的符号逻辑语言能够帮助我们将规则减少到1000条，甚至100条(vs. 100,000个节点)。
路加福音:你的层级自治系统，在信念-欲望-意图理性主体的“顶部”，是否与亚博体育苹果app官方下载混合动力系统控亚博体育苹果app官方下载制方法，或者它是混合系统控制方法的替代方案?亚博体育苹果app官方下载
迈克尔是的，它与混合系统方法相结合，当然，连续和随机方面对于模拟现实世界的交互亚博体育苹果app官方下载作用很重要。您可以将我们的方法看作是提供关于混合系统中离散步骤的进一步细节。亚博体育苹果app官方下载
路加福音:在未来，您认为在层次自治系统的顶层角色中的逻辑代理规范最终需要被更灵活、概率/模糊的推理方法所取代，以更好地匹配环境吗?亚博体育苹果app官方下载或者，当我们构建类似人类的、完全通用的推理和规划能力的系统(几十年后)时，逻辑代理规范能否扮演这个角色?亚博体育苹果app官方下载
迈克尔:后者。我们正致力于能够在这一顶层指定和验证概率的，甚至是实时的代理行为。(目前我们可以进行代理验证或概率验证，但我们正在开发组合机制。)高级代理可能会随着应用程序开发的复杂性而变得越来越复杂，并可能很好地包含不同的推理和决策组件。我们目前的方法是将规划组件放在独立的、低级的模块中。代理只是调用这些，然后在生成的计划选项之间做出决定。
路加福音:有趣。你能说说你正在研究的组合机制吗?
迈克尔:正式验证基本逻辑属性已经很困难了。然而，一旦我们处理可能在实际情况中使用的自治系统，那么我们通常会导致更亚博体育苹果app官方下载复杂的逻辑查询。例如，假设我们希望验证一个属性，例如
当被问及问题时，机器人在30秒内回复的概率至少为80%
我们已经超越了基本属性，融入了概率(>80%)和实时方面(30秒内)。但是，对于自主系统，我们不仅要验证系统(比亚博体育苹果app官方下载如机器人)的功能，还要验证它的意图和信念。我们甚至可以验证一下
当被问及这个问题时，机器人认为已经发出请求并打算在30秒内回复的概率至少为80%
这里的问题是，我们需要描述这些需求的逻辑框架已经相当复杂了。逻辑的组合往往是很难处理的，概率、实时、意图、信念等逻辑的组合还没有得到很详细的研究。
我们的目标是发展和扩展一些理论我们一直在做的工作对复杂逻辑组合的模型检验，以解决这一问题更全面的自治系统验证。亚博体育苹果app官方下载
路加福音:谢谢,迈克尔!
- 阿金,r .”控制致命行为:在慎思/反应型混合机器人架构中嵌入伦理”。技术报告，佐治亚理工学院，2007。↩
- 伍德曼，R，温菲尔德，A，哈珀，c和弗雷泽，m "构建更安全的机器人:安全驱动控制”。机械工程学报，37(12):1 - 6,2012。亚博体育官网↩
你喜欢这个帖子吗?你可以享受我们的另一个对话的帖子,包括:
