许多MIRI的朋友都知道,自从它成立以来,我一直是它使命的支持者,并提供了我的非正式协助,包括安排研究所2007年挑战奖助金的匹配资金的主要角色。
我很高兴能在促进其成功方面发挥更直接的作用总统美里。我辞去了公司创始人兼首席策略师的职务SirGroovy.com他在过去几周一直负责管理机器智能研究所(Machine Intelligence Research Institute)。亚博体育官网
潜在的志愿者,捐赠者和有抱负的研究者现在应该联系我而不是泰勒·艾默生。亚博体育官网
对那些第一次和我打招呼的人,请允许我自我介绍一下。在专业层面上,我拥有德雷塞尔大学(Drexel University)的工商管理硕士学位,并在一家在纽约成立的快速发展的音乐授权公司担任管理、研究、分析和战略的角色。亚博体育官网在那个职位上,在之前的职位上怡安保险在我的学术研究中,我一直对金融和经济学,特别是技术和知识产权经济学感兴趣。在科学方面,我获得了生物化学的本科学位,并在几个实验室工作过,还在国家标准与技术研究所他广泛研究了科学和技术的历史,以及生物认知增强的潜力。我曾与和平队我和妻子阿鲁娜(Aruna)住在曼哈顿,我的时间主要在曼哈顿和硅谷之间。
我对技术发展安全的兴趣,是由潜在的严重伦理后果驱动的,已经有十多年了。我一直特别关注先进纳米技术和人工智能的潜力,参加了诸如Transvision和Foresight会议等论坛SL4邮件列表,克服偏见以及MIRI和负责任纳米技术中心(CRN)等组织。我计划让我的相关工作在一个单一的地点,但同时我将指出一个小的选择。例如,我合著了一篇分析先进分子制造的风险和缓解策略罗伯特Freitas,并作出贡献"公司的聚宝盆作为CRN全球工作组的成员之一。那些想了解更多的人可以看看迈克尔·阿尼西莫夫的一些档案作品在他的网站以及我最近的一些演讲,一个伦理和新兴技术研究所演讲论不同意志力概念的政治含意Convergence08关于人类决策理论的讨论,可以在网上找到。
作为总统我计划在MIRI成功的基础上,比如奇点峰会,同时努力提高其内部和外部的研究能力和产出。亚博体育官网在后者的过程中,我将特别关注发表的研究,这些研究提高了我们对先进人工智能的潜力和安全性的思考质量,例如MIRI研究员Eliezer Yudkowsky的研究亚博体育官网两个贡献到牛津编辑的卷,全球灾难性的风险,从而更好地向我们的支持者传达内部研究进展。亚博体育官网
其中一些工作将涉及间接的、元级别的贡献。例如,最近的工作在米里罗尔夫·尼尔森,安娜班子,史蒂文•Rayhawk Thomas McCabe等导致的开发软件工具结合判断特定的未来场景和技术发展揭示矛盾,使采用一个更加团结的概率分配计划。该工具的内容和算法已经完成,目前正在确定软件界面,并将其公开,以提高相关技术场景的推理质量,包括那些涉及人工智能的场景。
另一项努力包括进行专家启事研究,以确定关于先进人工智能的时间表和风险的学术和非学术专家意见的状态。亚博体育官网
未来的研究可能亚博体育官网会探索影响与人工智能相关的态度和推理的特定偏见和心理因素。
其他研究将直亚博体育官网接集中于对象层面的问题。我计划积极努力,寻找更多有前途的校外学者,他们的工作可以通过MIRI拨款得到有效推广,比如mii - canada学术奖获得者Shane Legg的《机器超级智能》。与此同时,我将努力为MIRI的内部工作招聘和充分利用有才华的研究员。亚博体育官网
我期待在接下来的几个月里描述进一步的方向,并邀请MIRI的朋友们在admin@www.hdjkn.com上提出建议和意见。
你的,
迈克尔·瓦萨尔