机器智能研究所进展报告,2011年12月亚博体育官网

||新闻

“我认为机器智能研究所有一些非常聪明的人在从事地球上最重要的任务,但亚博体育官网是……他们到底是什么人?这些天吗?我被蒙在鼓里。”

我经常听到这样的评论是有原因的。我们没有很好地向支持者传达我们的进展。

自从去年11月被任命为机器智能研究所(SI)执行主任以来,我一直在努力改变这一现状。亚博体育官网我给两个问答关于SI,并解释了我们的研究项目亚博体育官网人工智能风险研究中有待解决的问题列表亚博体育官网.现在,我想介绍一下我们在透明度方面的最新努力:月度进展报告

我们从上个月开始:2011年12月。我们在2011年12月做了什么?

(为了清楚起见,从现在起我将称自己为“卢克”。)

  • 冬天募款活动.我们发起了我们的冬季募捐活动,并一直在联系我们的支持者。筹款活动到目前为止已经筹集了4万多美元,不过我们还有6万美元要筹集!(所以,请yabo体育官网下载ios !)
  • 奇点峰会2012.我们的首席运营官Amy Willey在Luke的帮助下,花了整整一个月的时间准备奇点峰会2012。因此,我们现在已经选择了一个专业团队,我们将把峰会带到“下一个层次”,我们已经确定了几个主要的演讲者:Ray Kurzweil、Steven Pinker、Tyler Cowen、Temple Grandin、Peter Norvig、Robin Hanson、Peter Thiel、Melanie Mitchell、Vernor Vinge和Carl Zimmer。我们还同许多其他发言者开始了谈判。这是2011年奇点峰会筹备工作的一大进步,2011年5月奇点峰会就开始了,我们几乎没有时间去捕捉特定的演讲者,并发展特定类型的媒体报道。在如此早期的阶段取得如此大的进展,再加上更大的预算和更大的专业援助,将使2012奇点峰会成为该活动的一个重大飞跃。艾米也在安排一个可能的2012年欧洲奇点峰会。
  • 理性组织.正如我们在战略计划在美国,我们认识到,同时关注人工智能风险研究会造成品牌混淆亚博体育官网因此,我们正准备成立一个独立的理性教育机构,让机器智能研究所能够专注于人工智能风险研究。亚博体育官网在内部,我们称理性教育组织为“理性组织”。在Luke的帮助下,Anna和Eliezer做了很多工作,为未来的合理性组织制定计划。我们甚至花了更多的开发核心理性课程,在不同的人群中测试版本,并迭代内容。我们希望理性组织能在今年年底或明年年初启动,我们希望它不仅仅是提高理智的吃水线同时也为降低生存风险提供了大量资金。
  • 新网站设计.我们的媒体总监Michael Anissimov在Luke的帮助下,制定了SI新网站的策略和设计,并与设计师合作多次迭代设计。设计师现在正在为网站编程。
  • 新的捐赠者数据库.12月,我们的发展总监Louie Helm完成了我们新的捐赠数据库的建立,包括自动从Paypal、谷歌Checkout导入数据的定制代码。这个数据库让我们更好地了解我们的支持者是谁,并让我们更有效地感谢他们的支持。阿尼西莫夫给数百名捐赠者写了个人感谢信。
  • 亚博体育官网研究文章.卢克和安娜在他们的概述文章“情报爆炸:证据和进口”上取得了持续的进展。卡尔继续研究FHI并继续与尼克·博斯特罗姆合作撰写《人工智能有多难?》进化论证和选择效应"
  • 其他文章.Luke为Less Wrong写了几篇文章砍去边缘为什么要研究概念的认知科学,所以你想拯救世界.埃利泽在他的新贝叶斯定理教程上取得了很大的进步,包括(外包的)插图和大量的观众测试。
  • 以利以谢的书.埃利泽完成了他的第一本书的出书计划(基本上已经写完了),改变想法的科学.我们已经开始寻找好的代理代理这本书。
  • 面临的奇点.卢克继续开发他的在线书面临的奇点,一个门外汉对奇点的介绍,它的后果,以及我们能做什么。他在2011年12月写的章节是:疯狂机器人的反抗不是为考虑人工智能而生的对“智力”避而不谈迷信在撤退我们上面有足够的空间,不要退缩
  • 额外的透明度的努力.阿尼西莫夫和卢克开始着手年度报告的设计和内容。他们也拍摄和制作卢克的视频Q&A #1
  • 最优的慈善事业.最佳的慈善运动(例如:尽我们所能)呈指数增长。卡尔和安娜与该运动的其他成员进行了大量的合作和研究。亚博体育官网部分由于他们的工作,最佳慈善运动有很大的意识降低存在风险是最理想的慈善事业这将为未来几年降低生存风险的工作带来大量资金。
  • 与顾问、支持者和潜在研究人员的会议亚博体育官网.2011年12月,不同的科学研究人员与数十名顾问、支持者和合作者会面或交谈,讨论如何建立存在风险社区以及其他主题。我们还会见了几位潜在的研究人员,以评估他们的兴趣和能力。亚博体育官网
  • 谷歌Adwords升级.几个月来,路易和其他人一直在调整我们从谷歌捐赠给我们的谷歌Adwords每月1万美元中获得的广告。yabo体育官网下载ios到2011年12月,我们的广告非常成功,我们有资格升级,现在通过谷歌Adwords获得了4万美元/月的免费广告。
  • 更好的财务管理.2011年12月,我们开始培训我们的新财务主管,长期的捐助者和SI的朋友,Jesse Liptrap。这意味着组织外的人在密切监视我们的财务状况。我们还开始改进我们的簿记和会计实务,这将使我们能够更好地进行预算、预测和资源管理。
  • 未发表的研究亚博体育官网.和大多数研究机构一样,我们亚博体育官网的大部分研究在1-3年内都不会发表论文,即使它会影响我们对许多事情的看法。2011年12月未发表的亚博体育官网研究包括人口伦理、脑机接口、最佳慈善、技术预测、核灭绝风险、人工智能架构、人类学、决策理论、理性培训、Oracle人工智能、科学生产力等等。SI的研究亚博体育官网助理对其中一些研究做出了贡献,包括“少犯错误”讨论帖带有暂停oracle的UDT模型
  • 新董事会成员Quixey联合创始人兼首席执行官,托马·卡根他加入了SI的董事会。Tomer是我们的好朋友,为我们的团队带来了丰富的商业和管理经验。
  • .当然,我们还参与了许多其他较小的项目。这些包括:更新到IntelligenceExplosion.com;为Rationality Org建立联系;定期组织SI员工聚餐,促进协调和友谊;在彼得·泰尔(Peter Thiel)的“快进”(Fast Forward)派对上与捐赠者交谈;建立有帮助的志愿者和助手的数据库;实现Olark在我们的yabo体育官网下载ios ;会见来自各媒体组织的记者;将旧视频上传到Vimeo和YouTube;修正我们网站上的错误和过时的内容;完成了我们的2010 990,并把它送给布兰登·莱因哈特(Brandon Reinhart)添加到他的财务检查机器智能研究所的研究员,正在准备一份亚博体育官网SI研究出版物的新模板亚博体育官网(由研究助理丹尼尔·杜威提亚博体育官网供);等等。