1979年，迈克尔·拉比证明了他的加密系统可以反转 - 以便解密加密的亚博体育苹果app官方下载消息 - 才能才能否则攻击者可能因素N。由于这种分解任务是计算地努力任何足够大的N，Rabin的加密方案被称为“可证明的安全”，只要一个人使用足够大的N。
从那时起，用这种“可提供安全性”创建加密算法一直是密码学的主要目标，1符合这些标准的新加密算法有时会销售为“可提供安全”。
不幸的是，“可怜的安全”一词可能是误导性的，2有几个原因3.。
第一的，Rabin风格的安全证据实际上并没有证明安全性。相反，他们证明了一种用于破坏加密系统的有效算法将意味着一种有效的算法，用于解决底层计算问题（例如整数分解），这被假定被计算为硬。亚博体育苹果app官方下载虽然这些潜在的问题是假定要计算得很努力，他们实际上并不是验证努力计算。（因此，“安全证明”中的“证明”这个词不同于数学中的“证明”，其中可以从经过验证的数学陈述到所使用的数学系统的公理，所有方式都可以减少证明。亚博体育苹果app官方下载）
第二，系统的正亚博体育苹果app官方下载式安全要求可能无法捕获攻击者可以做的一切来打破系统，以及攻击者可用的信息。例如，它不久之后拉比（1979）罗恩最活泼（r inRSA.）指出4.如果对手可以欺骗Rabin的Crypto系统的用户解密对手的选择的密码，这将使对手打破整个系统来说更容易。亚博体育苹果app官方下载作为另一个例子，Bleichenbacher（1998）显示RSA加密系统的早期版本可以通过使攻击失败后收到的错误消息进行智能使用来成功攻击。亚博体育苹果app官方下载
通常，安全证明通常不会占用侧渠攻击，这利用了从Crypto系统的物理实现中获取的信息。亚博体育苹果app官方下载例如，物理计算机将不可避免地使用功率并在运行加密系统时提供电磁辐射。亚博体育苹果app官方下载在某些情况下，可用于破坏加密系统的统计分析。亚博体育苹果app官方下载
第三，有时，数学证明本身是错误的，包括安全性证明。例如,BoldyReva等人。（2007）创建了一种新的数字签名（被称为OMS），他们声称比具有类似功能的其他系统更高效和更安全。亚博体育苹果app官方下载但是之后Hwang等人。（2009）表明“可怕的安全”OMS协议很容易被打破。事实证明，BoldyReva等人有一个未被发现的错误。他们的定理5.1的4页证明。5.
实际上，不system can be “provably secure” in the strongest sense, since (1) we can’t be 100% certain that the system’s formal security requirements have been specified properly, and (2) we can’t be 100% certain the security proof itself is without error.
同样，一些计算机系统被标记为“亚博体育苹果app官方下载可怕的安全，“通常是因为软件有（全部或部分）正式验证反对正式指定的安全标准。6.但再一次，我们必须记住（1）我们永远不能100％确定正式的安全规范捕捉我们关心的一切，（2）我们永远不能100％确定复杂的数学证明（正式验证）没有错误。
相同的推理适用于agi.“友善。“即使我们发现（明显）解决方案以了解已知的开放问题亚博体育官网 这并不意味着我们能够建立一个“可怜的友好”在最强烈的意义上的AGI，因为（1）我们永远不能100％肯定，我们的正式规范“友善”捕捉我们关心的一切，并（2）我们永远不会达到100％，我们正式推理没有错误。（事实上，“友好规范”问题似乎比“安全规范”和“安全规范”问题更难，因为适当的友好规范涉及沉重的哲学，人类是在哲学中臭名昭着的糟糕。）
因此，有时称为“可提供安全性”的方法，“可提供的安全性”和“可提供的友好”，不应被误解，因为提供100％的安全，安全和友善保障。7.相当，这些方法旨在提供比我们更有信心，所有其他相同的，给定的系统是安全的，安全或“友好”。亚博体育苹果app官方下载
特别是对于友好的东西，我们的信息是：“如果我们证明它是正确的可能工作。要是我们别证明它是正确的确实不起作用。“8.
人类常常想要零风险解决方案，但计算机安全性，安全性或友好性没有任何零风险解决方案。另一方面，我们不应该忽视正式证明的价值。它们给我们比任何其他方法更精确，并且是（例如）测试的有用补充。9.
当谈到建立自我改善的AGI时，我们希望尽可能地对系统的友好度有信心。亚博体育苹果app官方下载自我改善的阿加不仅仅是“安全关键系统亚博体育苹果app官方下载，“但是一个世界- 临界系统。亚博体育苹果app官方下载友善的研究很难，但它是值得亚博体育官网的赌注。10.
- 如果在正式说明的安全要求，并亚博体育苹果app官方下载经过验证的情况，则据说加密系统是可证明的安全性，并被系统的系统满意，就像Rabin系统一样。看维基百科。↩
- 安全缩减仍然有用（damgård2007.）。我的观点只是这个术语“可怜的安全”可能会误导，特别是对非专家来说。↩
- 有关更多详细信息，以及“可提供安全性”一词的一些额外问题，请参阅Koblitz＆Menezes'另一种外观网站及其相关的文章，特别是Koblitz＆Menezes（2010）。↩
- 看威廉姆斯（1980）。↩
- 看Koblitz＆Menezes（2010）。有关数学证明中错误的其他示例，请参阅Branwen (2012);Kornai（2013）。↩
- 也可以看看安全关键系统中的透明度亚博体育苹果app官方下载。↩
- 因为这种误解是如此普遍，因此Miri员工尽量避免使用“可友好”这样的短语。Miri研亚博体育官网究员Eliezer Yudkowsky是经常被指责倡导“可提供友好”的AGI，但我无法找到yudkowsky自己使用那个短语的例子。如果是Yudkowsky.具有过去使用了这句话，它似乎有可能他正在谈论拥有关于AGI的内部结构的某些证据（为了让我们对其友好的信心比其他方式），而不是关于其在物理世界中的行为的证明。
添加10-16-2014：读者指出了来自Yudkowsky的着作的几个段落，这可能导致这种混乱。在2008年10月帖子，yudkowsky使用了“可怕正确友好的ai”短语，但没有解释他的短语意味着什么。Yudkowsky在2008年10月博客帖子中也使用了“友好的AI（可证明的友好）”短语“（可证明的）自我改善”评论。在一个2008年12月职位，Yudkowsky写道：“通过强烈洞察智能的程序员，直接沿着高效和计划的途径创造，一种能够以确定性精确定义的思维方式 - 可提供正确或可怕的自我修改。这是我可以看到的唯一方法，以实现足够的目标来创造一个友好的AI。“最后，在2005年9月邮寄清单评论中，Yudkowsky写道更清晰的阐述他在友好的AI背景下使用“可证明”这个词时的意思：
没有已知的算法可以独立证明宇宙时代的CPU设计，但使用人类选择* LEMMAS *我们可以获得机器 - *验证*正确的证明。证券系统中证明的临界性质并不是那么肯定的，因为系统可能对我们所知道的所有或可以正式证明的系统可亚博体育苹果app官方下载能不一致。关键财产是，*如果*系统是一致的，那么一万步的证明就像十步一样可靠。亚博体育苹果app官方下载没有独立的失败来源。我希望，如果AI能够以效率，疏忽和可扩展性至少等于人类数学家的可扩展性，则可以提供可怕的正确改写。一个完整的问题？当然，但让我们不要忘记 - 我们*试图设计AI。
- 这并不是说我们希望能够正式验证一个（或需要）全部的AGI系亚博体育苹果app官方下载统。一种可能性是早期的AGIS将是分层自治代理 -翼Fisher等人。（2013）- 只有代理的“顶部”控制层将被构造成适用于一种或另一种形式的正确性证明。↩
- 也可以看看Kornai（2012）;Muehlhauser（2013）;Damgård（2007）。↩
- 我感谢Louie Helm和Eliezer Yudkowsky对此帖子的反馈。↩
你喜欢这篇文章吗？你可以享受我们的其他yabo app 帖子，包括：
