新报告:“亚洲会议:风险缓解案例研究”

张贴通过&归档于论文.

今天我们发布了Katja Grace的一份新报告,“亚洲会议:风险缓解案例研究”(PDF,67pp)。1975年的阿西洛玛重组DNA会议有时被引用为科学家们成功行动的一个例子,他们先发制人地发现了一种新兴技术的潜在危险,并采取干预措施来降低风险。我们调查的目的是…阅读更多»

理性:从人工智能到僵尸

张贴通过&归档于新闻.

2006年到2009年间,米里的资深研究员艾利泽尤德科夫斯基为博客撰写亚博体育官网了几百篇文章,克服偏见,减少错误,统称为“序列”。还有两天,尤德科夫斯基就要完成他另一本著名的理性著作《哈利波特与理性的方法》,我们正在发布他的340篇原创博客文章,作为一个系列的六本书,…

Davis谈人工智能能力与动机

张贴通过&归档于yabo app .

纽约大学的计算机科学家欧内斯特·戴维斯在一篇关于超级智能的评论中,对他认为尼克·博斯特罗姆(Nick Bostrom)的一些说法表示异议:“智能是一个潜在的无限量,具有明确的一维值,一个超级智能的人工智能可以“轻易地抵抗和智胜80亿人的共同努力”,实现“虚拟的全能”,并且…阅读更多»

布鲁克斯和塞尔谈人工智能的意志和时间表

张贴通过&归档于yabo app .

尼克·博斯特罗姆对人工智能未来的担忧引发了公众的热烈讨论。他的观点得到了主要人工智能研究人员斯图尔特·拉塞尔在《超越超级智能机器上的自满》(与斯蒂芬·霍金、马克斯·泰格马克和弗兰克·威尔切克合著)一书中的回应,一些记者、科学家和技术专家随后也加入了这一亚博体育官网观点。鉴于题目的复杂性,…阅读更多»

AGI安全工程基础

张贴通过&归档于yabo app .

人工智能的进步导致越来越复杂和创造性的人类行为的自动化。如果有足够的时间,我们应该期待人工推理者开始在任意领域与人类抗衡,最终形成人工通用智能(AGI)。如果一台机器能够适应一个非常…阅读更多»