亚博体育官网研究更新了新的论文:“形式化收敛的工具目标”和“量化器:一个更安全的选择最大化有限的优化。”这些论文已被AAAI-16“人工智能、伦理与社会”研讨会接受。AI impact New at IAFF: A First Look at the Hard Problem of correcrigability;在任意Superrationality…阅读更多»
贴子:Rob Bensinger
新论文:“Quantilizers”
MIRI研亚博体育官网究员Jessica Taylor写了一篇关于软件代理容错框架的新论文，“量化器:有限优化中最大化者的一个更安全的选择。”泰勒的论文将在AAAI-16 AI，伦理与社会研讨会上发表。摘要:在人工智能领域，期望效用最大化者通常被用作一个…阅读更多»
新论文:“形式化聚合工具目标”
Tsvi Benson-Tilsen是MIRI的合伙人，也是加州大学伯克利分校的博士生，他写了一篇论文，由MIRI的执行董事Nate Soares撰写，关于对大多数可能的目标都有用的策略:“形式化趋同的工具目标。”这篇论文将作为海报在AAAI-16 AI，伦理与社会研讨会上展示。史蒂夫……阅读更多»
2015年11月通讯
亚博体育官网研究更新:一篇新的论文:Leó Szilárd and the dangerous of Nuclear Weapons new at IAFF: Subsequence Induction。Castify发布了Eliezer Yudkowsky的《Rationality: From AI to Zombies: Part 1, Part》的专业录音音频版本。阅读更多»
Edge.org的贡献者讨论了人工智能的未来
今年1月，近200名公共知识分子提交了一篇文章，回应2015年Edge.org上的一个问题:“你如何看待会思考的机器?””(网上)。文章的开头是这样的:近年来，20世纪80年代关于人工智能(AI)的哲学讨论——计算机是否能够“真正”思考、参考、有意识等等——引发了关于……阅读更多»
新报告:“Leó Szilárd和核武器的危险”
今天，我们发布了Katja Grace的一份新报告，“Leó Szilárd和核武器的危险:减少风险的一个案例研究”(PDF, 72页)。Leó Szilárd被引用为一个例子，有人在几年前就预测到了具有高度破坏性的技术——核武器——并成功地采取行动降低了风险....阅读更多»
2015年10月通讯
亚博体育官网研究更新新论文:渐近逻辑不确定性和本福德检验的新IAFF:证明长度和逻辑反事实重新审视作为一种使更多的研究人员参与数学、逻辑和科学方法论的方法，Andrew Critch和Tsvi Benson-Tilsen目前正在共同运行…亚博体育官网阅读更多»
新论文:“渐近逻辑不确定性与Benford检验”
我们发表了一篇关于逻辑不确定性的新论文，由Scott Garrabrant、Siddharth Bhaskar、Abram Demski、Joanna Garrabrant、George Koleszarik和Evan Lloyd共同撰写:“渐近逻辑不确定性和本福德检验。”Garrabrant在智能代理基金会论坛上给出了一些关于他的逻辑不确定性方法的背景:逻辑不确定性的主要目标是…阅读更多»
