我们的研究页面已经添加了四篇较早的文章。亚博体育官网第一个是之前在这里和这里讨论过的Christiano等人的“概率逻辑中‘真理’的可定义性”的早期草稿。草案最后一次更新是在2013年4月2日。第二篇论文是一篇最初发表于2012年12月的文章的整理版本。阅读更多»
贴子:路加福音Muehlhauser
AI何时被创造?
强大的人工智能似乎是本周的主题。母亲琼斯公司的凯文·德拉姆认为人工智能将在2040年和人类一样聪明。《福布斯》的卡尔·史密斯在这个时间表上,《经济学人》的作者似乎与德拉姆大致一致。Moshe Vardi是全球读者最多的计算机科学杂志的主编,他预测……阅读更多»
用你特定领域的专业知识向MIRI提供建议
MIRI目前有几十名志愿者顾问,涉及范围广泛,但我们需要更多!如果你想帮助MIRI更有效地实现它的使命,请注册成为MIRI顾问。如果你报名了,我们会偶尔问你问题,或者给你发送即将到来的写作的早期草稿……阅读更多»
AGI影响专家和友好的AI专家
MIRI的使命是“确保创造比人类更聪明的智能产生积极的影响。”实现这一任务的核心策略是找到并培训所谓的“AGI影响专家”和“友好的AI专家”。AGI影响专家开发与预测技术发展相关的技能(例如,构建人工智能发展的计算模型……阅读更多»
《智能爆炸微观经济学》出版
MIRI由Eliezer Yudkowsky撰写的93页新技术报告《智能爆炸微观经济学》现已发布。这份报告解释了我们研究项目中一个未解决的问题。亚博体育官网以下是摘要:I. J. Good关于“智能爆炸”的论点是,足够先进的机器智能可以制造自己的更智能版本,这可以在……阅读更多»
“奇点”假说发表
奇点假说:一个科学和哲学的评估已经被施普林格出版了精装版和电子书版。这本书包括20章关于机器超智能的前景,其中4章由MIRI研究人员和研究助理。亚博体育官网《情报爆炸:证据和进口》(pdf)作者Luke Muehlhauser和Anna Salamon(前MIRI研究员)回顾了…亚博体育官网阅读更多»
牛郎星永恒决策理论论文发表
在他作为MIRI的研究员期间,Alex A亚博体育官网ltair写了一篇关于永恒决策理论(TDT)的论文,现在已经出版:“Newcomblike问题的决策算法的比较。”Altair的论文在TDT的表述上比Yudkowsky的论文“永恒决策理论”更简洁,也更精确。因此,牵牛星的……阅读更多»
MIRI的2013年战略
这篇文章不是一个详细的战略计划。现在,我只想提供一个关于MIRI在2013年正在做什么和为什么的更新。我们的使命不变。创造比人类更聪明的智能可能是人类历史上最重要的事件,MIRI的存在有助于确保这一事件…阅读更多»