几个世纪以来，哲学家想知道我们如何学习导致的原因。有些人认为这是不可能的，或者只能通过实验。其他人保留乱砍在这个问题上，澄清想法喜欢反应性和可能性和相关性通过使它们更精确和连贯。
然后，在20世纪90年代，突破：犹太珍珠等显示即，原则上，我们有时也可以通过概率图形模型的数学机械来推断出从数据的因果关系。
接下来，工程师使用这种数学洞察来写入软件这可以在几秒钟内推断出从数据集的因果关系。
在几个世纪以来，研究人员辛苦了，推动了我们对亚博体育官网数学哲学的因果关系的理解。
所以它是友好的ai.亚博体育官网研究。当前友好Ai子问题的进展情况在于哲学到数学的频谱到工程。
我们从一系列友好的AI（FAI）开始了一些模糊的哲学思想。我们希望它成为仁慈，足够强大，以消除痛苦，保护我们免受自然灾难，帮助我们探索宇宙，否则会使生活惊人的。我们希望FAI允许道德进步，而不是根据我们当前的价值观的任何东西立即重塑银河系。我们希望FAI保持受益，即使它重写其核心算法变得更聪明，更聪明。等等。
这种哲学拼图的小块已经被打破了转换成数学，例如珍珠因果分析和Solomonoff诱导。由于珠宝的数学以来已被用于生产可以在今天的计算机上运行的因果推理软件，而工程师则迄今为止仅成功地实现了仅限于的SOLOMONOFF诱导的（易于近似）非常有限的应用程序。
两块“稳定自我修改”问题的玩具版本被转变为数学问题de blanc（2011）和Yudkowsky＆Herreshoff（2013年）虽然这是通过正式分析实现进一步的洞察力，但不要断言这些小块的哲学问题解决了到数学水平。
感谢Patrick Lavictoire等亚博体育苹果app官方下载 参与者，1Douglas Hofstadter的FIA相关哲学思想“级联性“似乎已经是最多的，成功转变进入数学，并且有点工程工作也有已经完成了。
我说“似乎”因为，虽然人类相当熟练地转向实际工程的壮举，但我们似乎是很多较少的技能的在没有留下任何东西的情况下将理念转变为数学。例如，一些非常复杂的思想家声称“Solomonoff诱导解决了归纳推理的问题”或那“Solomonoff已成功发明了完美的归纳理论。”事实上，它肯定是似乎像一个真正普遍的诱导程序。但是，它拒绝所罗门组织诱导没有完全解决归纳推理的问题，有着相对微妙的原因。2
不幸的是，当人类建立第一个自我改善的AGI时，这样的哲学错误可能是致命的（Yudkowsky 2008.）。3.与尼克博斯特罗姆说，“截至截止日期”的哲学作品是相关的哲学工作。
- 在他们之前，Moshe Tennenholtz.。↩
- Yudkowsky计划更多地了解如何改善所罗门组织的归纳，后来。↩
- 这是Peter Ludlow描述的问题的特定实例这：“技术曲线非常迅速地从哲学曲线拉开，并即将完全留下它。”↩
你喜欢这篇文章吗？你可以享受我们的其他yabo app 帖子，包括：
