机器智能研究所进展报告,2011年12月亚博体育官网

||新闻

“我认为,机器智能研究所(Machine Intelligence 亚博体育官网Research Institute)有一些非常聪明的人在从事地球上最重要的任务,但……他们到底是什么人?这些天吗?我在黑暗中。”

我经常听到这样的评论是有原因的。我们没有很好地向我们的支持者传达我们的进展。

自从去年11月被任命为机器智能研究所(SI)的执行董事以来,我一直在努力改变这一现状。亚博体育官网我给两个问答关于SI,并解释了我们的研究项目亚博体育官网人工智能风险研究中的开放问题列表亚博体育官网.现在,我想介绍一下我们在透明度方面的最新努力:月度进展报告

我们从上个月开始:2011年12月。2011年12月我们做了什么?

(为了清楚起见,从这一刻起,我将称自己为“Luke”。)

  • 冬天募款活动.我们发起了我们的冬季筹款活动,并一直在联系我们的支持者。到目前为止,筹款人已经筹集了超过4万美元,尽管我们还有6万美元要筹集!(所以,请yabo体育官网下载ios !)
  • 奇点峰会2012.我们的首席运营官艾米·威利在卢克的帮助下,为2012年奇点峰会做了整整一个月的准备工作。因此,我们现在选择了一个专业团队,我们将把峰会推向“下一个水平”,我们已经确认了几个主要的发言人:Ray Kurzweil, Steven Pinker, Tyler Cowen, Temple Grandin, Peter Norvig, Robin Hanson, Peter Thiel, Melanie Mitchell, Vernor Vinge和Carl Zimmer。我们还同许多其他发言者开始谈判。与2011年5月开始的奇点峰会相比,这是一个很大的改进,让我们几乎没有时间捕捉特定的演讲者和开发特定类型的媒体报道。在如此早期的阶段取得如此大的进展,加上更大的预算和更大的专业援助,将使奇点峰会2012成为该活动的一大飞跃。艾米还在为一个可能的2012年欧洲奇点峰会。
  • 理性组织.正如在我们的战略计划在美国,我们认识到专注于这两项人工智能风险研究所产生的品牌混淆亚博体育官网因此,我们正准备剥离一个独立的理性教育组织,这样机器智能研究所就可以专注于人工智能风险研究。亚博体育官网在内部,我们称这个理性教育组织为“理性组织”。Anna和Eliezer在Luke的帮助下,为未来的理性组织做了很多工作。我们甚至花了更多的开发核心理性课程,测试不同人群的版本,并迭代内容。我们预计理性组织将在今年晚些时候或明年初成立,而且我们预计它不仅会提高健康底线但也为降低生存风险带来了大量资金。
  • 新网站设计.我们的媒体总监Michael Anissimov,在Luke的帮助下,制定了SI的新网站的策略和设计,并与一位设计师进行了多次的设计迭代。设计师现在正在设计这个网站。
  • 新的捐赠者数据库.12月,我们的开发总监Louie Helm完成了我们新的捐赠数据库的设置,包括从Paypal、谷歌Checkout等自动导入数据的自定义代码。这个数据库让我们更好地了解我们的支持者是谁,并让我们更有效地感谢他们的支持。阿尼西莫夫给数百位过去的捐赠者写了个人的感谢信。
  • 亚博体育官网研究文章.Luke和Anna在他们的概述文章“情报爆炸:证据和进口”上继续取得进展。卡尔继续与FHI并继续与尼克·博斯特罗姆(Nick Bostrom)合作撰写他们的文章《人工智能有多难?进化论点和选择效应。”
  • 其他文章.Luke为Less Wrong写了几篇文章:在边缘砍去为什么要研究概念的认知科学,所以你想拯救世界.Eliezer在他的新贝叶斯定理教程上取得了很大的进步,包括(外包的)插图和大量的用户测试。
  • 以利以谢的书.以利以谢完成了他的第一本书的出书计划(已经基本完成了),改变你想法的科学.我们已经开始寻找好的代理商代理这本书。
  • 面临的奇点.卢克继续开发他的在线图书面临的奇点这本书是一个外行对奇点的介绍,它的后果,以及我们可以对此做些什么。他在2011年12月写的章节是:疯狂机器人的反叛不是为思考人工智能而生的用“智慧”玩禁忌迷信在撤退我们上面有足够的空间,不要退缩
  • 额外的透明度的努力.阿尼西莫夫和卢克开始为年度报告的设计和内容工作。他们还拍摄和制作卢克的视频问答1
  • 最优的慈善事业.最佳的慈善运动(例如:尽我们所能)呈指数级增长。卡尔和安娜与该运动的其他成员进行了大量合作和研究。亚博体育官网部分由于他们的工作,对慈善运动的最佳意识有很大的道理将生存风险降低作为最佳的慈善事业这将为未来几年降低生存风险的工作带来大量资金。
  • 与顾问、支持者和潜在研究人员会面亚博体育官网.在2011年12月,各种SI的工作人员与数十位顾问、支持者和合作者会面或交谈,讨论如何建立存在风险社区以及其他话题。我们还会见了几个潜在的研究人员,以评估他们的兴趣和能力。亚博体育官网
  • 谷歌Adwords升级.几个月来,Louie和其他人一直在调整我们从谷歌捐赠给我们的谷歌Adwords每月1万美元中获得的广告。yabo体育官网下载ios到2011年12月,我们的广告非常成功,我们获得了升级资格,现在通过谷歌Adwords每月获得4万美元的免费广告收入。
  • 更好的财务管理.2011年12月,我们开始培训我们的新财务主管,SI的长期捐助者和朋友,Jesse Liptrap。这意味着组织外有人在密切关注我们的财务状况。我们也开始改善我们的簿记和会计实践,这将允许更好的预算、预测和资源管理。
  • 未发表的研究亚博体育官网.和大多数研究机构一样,我们亚博体育官网的大部分研究在1-3年内不会发表论文,即使它告诉了我们很多事情的观点。2011年12月未发表的亚博体育官网研究包括人口伦理学、脑机接口、最佳慈善事业、技术预测、核灭绝风险、人工智能架构、人类学、决策理论、理性培训、Oracle AI、科学生产力等。SI的研究亚博体育官网助理对这项研究做出了一些贡献,包括“少犯错”讨论帖一个UDT模型,有一个停止的oracle
  • 新董事会成员Quixey联合创始人兼首席执行官,托马·卡根该公司已加入SI的董事会。Tomer是我们的好朋友,为我们的团队带来了丰富的商业和管理经验。
  • .当然,我们也参与了许多其他较小的项目。这些包括:更新到IntelligenceExplosion.com;理性组织交往关系的发展;定期组织SI员工晚宴,促进协调和友谊;在彼得·泰尔(Peter Thiel)的“快进”(Fast Forward)派对上与捐赠者交谈;建立一个有帮助的志愿者和助理人员的数据库;实现Olark在我们的yabo体育官网下载ios ;会见各媒体组织的记者;上传旧视频到Vimeo和YouTube;修复我们网站上的错误和过时内容;完成了我们的2010 990,并把它寄给了布兰登·莱因哈特,让他把它加到他的财务检查在机器智能研究所,准备一个亚博体育官网SI研究出版物的新模板亚博体育官网(由研究助理丹尼尔·杜威提亚博体育官网供);等等。