2016年9月通讯 2016年9月3日|Rob Bensinger|时事通讯 亚博体育官网研究更新 新IAFF:作为情景强化学习的高级人工智能系统的能力建模亚博体育苹果app官方下载;分层的简化解释 新AI影响:作为全球公共产品的友好人工智能 这个月我们举办了两场研亚博体育官网究研讨会退伍军人车间关于长期合作者和员工的决策理论机器学习研讨会关注可概括的环境目标、影响措施和温和的优化。 人工智亚博体育官网能研究员Abram Demski接受了MIRI的研究奖学金,等待他完成博士学位。他将于2016年底/ 2017年初开始在这里工作。 数据科学家瑞安·凯里将加入MIRIML-oriented这个月的助理研究员。亚博体育官网 一般更新 MIRI 2016年战略更新概述我们的研究计划如何根据最近的发亚博体育官网展而改变。我们还宣布了一项30万美元的慷慨捐赠,这是我们迄今为止的第二大单笔捐赠。 我们上传了9个CSRBAI的演讲鲁棒性和偏好规范包括杰西卡·泰勒的“高级机器学习系统的对齐”(亚博体育苹果app官方下载视频)、Jan Leike谈“一般强化学习”(视频)、保罗·克里斯提诺谈“训练一名结盟的RL特工”(视频)和迪伦·哈德菲尔德-梅内尔的《开关》(The Off-Switch) (视频). MIRI首席运营官马洛·布尔贡一直担任共同主持IEEE的委员会自主系统设计伦理考虑的全球倡议亚博体育苹果app官方下载.他最近主持了一个关于通用人工智能和超级智能的研讨会这是倡议的第一次会议. 我们在那里玩得很开心有效的利他主义全球,并在SPARC. 我们聘请了两名新的管理人员:办公室经理Aaron Silverbook和通信和发展策略师Colm Ó Riain。 新闻和链接 慈善开放项目(Open Philanthropy Project)向斯图尔特·拉塞尔(Stuart Russell)提供了560万美元,以启动一个学术人工智能安全研究机构:亚博体育官网人类兼容人工智能中心. ”谁应该控制我们的思考机器?:杰克·克拉克采访了DeepMind的戴米斯·哈萨比斯。 Elon Musk解释了“我认为最大的风险不是人工智能会形成自己的意志,而是它会遵循人们建立其效用函数或优化函数的意愿。而这种优化功能,如果没有经过深思熟虑——即使它的意图是良性的,也可能产生相当糟糕的结果。” 智能建模作为一个项目特定的生产要素Ben Hoffman比较了不同的人工智能起飞场景。 闭开人工智能: Viktoriya Krakovna权衡了封闭AI和开放AI的优势。 谷歌X公司的董事阿斯特罗·泰勒对人工智能的未来表示乐观中柱宣布第一份报告斯坦福AI100研究的负责人。 Buzzfeed报告努力防止发展致命自主武器系统亚博体育苹果app官方下载. 在可控的环境下,研究人员会找到方法亚博体育官网通过WiFi信号的失真来检测击键和使用硬盘驱动器执行器噪音跳跃气隙. 关于EA论坛的扎实讨论:捐助者是否应该对未来的捐赠作出承诺?和你应该从“挣钱”转向“付出”吗?