亚博体育官网研究讲习班

7月20日至22日,2018加州伯克利分校

第二届研讨会的途径AI对齐


人权中心兼容AI这个周末的研讨会聚集了来自MIRI和加州大学伯克利分校的研究实习生亚博体育官网人权中心兼容AI(柴)讨论概念基础和人工智能安全研究有待解决的问题。亚博体育官网

11月18-19日,2017年加州伯克利分校

第一次关于人工智能对齐方法的研讨会


本周末讲习班聚集了兴趣了解和探索MIRI的之间的交叉研究亚博体育官网代理基础亚博体育官网研究议程和保罗global的研究亚博体育官网

2017年4月1 - 2日,加州伯克利分校

第四届机器学习与人工智能安全研讨会


人工智能杂志该研讨会将具有机器学习背景的研究人员聚集在一起,研究可以在当前亚博体育官网机器学习系统和框架中建模的长期人工智能安全问题,例如在“亚博体育苹果app官方下载人工智能安全的具体问题”和“对齐方式先进的机器学习系统亚博体育苹果app官方下载”。

这次研讨会是由拨款提供部分资助人工智能杂志

2017年3月25日至26日,加州伯克利分校

在代理基金会和AI安全研讨会


这个为期两天的周末研讨会聚集了对长期人工智能安全理论研究感兴趣的研究人员。亚博体育官网研讨会涵盖了当前人工智能安全研究议程和项目的背景和内容(以MIRI为重点)亚博体育官网代理基金会技术议程)。它是为那些有技术背景和以前没有广泛与亚博体育官网MIRI工作过的研究人员准备的。

2016年12月1 - 3日加州伯克利分校

第三届研讨会机器学习和人工智能安全


这个小为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学习系统和框亚博体育官网架进行建模,例如那些描述的研究人员一起“亚博体育苹果app官方下载人工智能安全的具体问题”和“对齐方式先进的机器学习系统亚博体育苹果app官方下载”。

议题包括使用共享嵌入的零击学习之间的差异quantilization的正规化,生成对抗性的网络和古德哈特定律和数学形式化保守的概念学习

2016年11月11 - 13日,加州伯克利分校

第九届研讨会逻辑,概率和反思


这个为期三天的研讨会的参加者——大多数是参加过以往研讨会的老手——研究了与MIRI有关的各种问题代理基金会技术议程

主题包括在丰富领域的安全探索,预测人类和预测HCH的区别,从其他决策理论自修改导致决策理论

2016年10月研讨会,加州伯克利分校

第二届研讨会机器学习和人工智能安全


这个小为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学习系统和框亚博体育官网架进行建模,例如那些描述的研究人员一起“亚博体育苹果app官方下载人工智能安全的具体问题”和“对齐方式先进的机器学习系统亚博体育苹果app官方下载”。

主题包括与不同的本体概念学习,任务AGI的问题审查交涉,保守的观念

2016年8月26 - 28日期间,加州伯克利分校

第一次机器学习与人工智能安全研讨会


这个为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学亚博体育官网习系统和框架进行建模,例如那些描述的研究人员一起“亚博体育苹果app官方下载人工智能安全的具体问题”和“对齐方式先进的机器学习系统亚博体育苹果app官方下载”。

主题包括学习环境的人类可解释模型和因果模型;基于影响措施的工程成本函数抑制副作用为计划的意图解释的质量设计稳健的量度;并开发出古德哈特定律的正式模型,从而产生温和的优化。

2016年8月12 - 14,加州伯克利分校

第八研讨会逻辑,概率,和反射


这次研讨会的参加者——都是参加过以前研讨会的老手——研究了各种与MIRI有关的问题代理基金会技术议程,重点研究决策理论和逻辑反事实的形式建构。

2016年6月17日加州伯克利分校

关于主体模型和多主体困境的CSRBAI研讨会


二十名参加者来自下列机构:
  • USC研究所创新技术
  • 卡尔顿大学
  • 人类研究所的未来
  • 卡内基·梅隆大学
  • 哈佛
  • 牛津大学
  • 伦敦大学学院
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 德克萨斯大学奥斯汀分校
  • 普林斯顿大学
  • 哥伦比亚大学

座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。

第四届研讨会CSRBAI专注于设计在其环境中表现良好的代理的主题,而不忽略代理自身的行为对环境或环境中其他代理的影响。

6月11-12日2016加州伯克利分校

CSRBAI关于偏好规范的研讨会


二十名参加者来自下列机构:
  • 澳大利亚国立大学
  • 伦敦大学学院
  • 存在风险研究中心
  • 牛津大学
  • 人类研究所的未来
  • 卡内基·梅隆大学
  • 瑞士人工智能实验室IDSIA
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 布朗大学
  • 蒙特利尔大学
  • USC研究所创新技术

座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。

第三次工作坊CSRBAI专注于高能力AI系统的偏好规范的主题,在这个主题中,希望代码“做我的意思,而不是我说的”这一长期存在的问题变得越来越具有挑战性。亚博体育苹果app官方下载

2016年6月4 - 5,加州伯克利分校

CSRBAI研讨会鲁棒性和容错


十四名参加者来自下列机构:
  • 伦敦大学学院
  • 存在风险研究中心
  • 谷歌
  • 人类研究所的未来
  • 卡内基·梅隆大学
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 瑞士人工智能实验室IDSIA
  • 康奈尔大学
  • USC研究所创新技术

座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。

的第二次研讨会CSRBAI重点讨论了人工智能系统的鲁棒性和容错性,以及如何确保人工智能系统在出现故障时能够优雅地、可检测地失效。亚博体育苹果app官方下载

2016年5月28 - 29日,加州伯克利分校

CSRBAI关于透明度的研讨会


二十名参加者来自下列机构:
  • 俄勒冈州立大学
  • 澳大利亚国立大学
  • 人类研究所的未来
  • 卡内基·梅隆大学
  • IBM研亚博体育官网究
  • 蒙特利尔学院学习算法
  • 谷歌研究亚博体育官网
  • 斯坦福大学
  • 谷歌
  • 加州大学伯克利分校
  • 伦敦大学学院
  • 哈佛
  • 未来生命研究所

座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。

第一次工作坊CSRBAI重点讨论人工智能系统的透明度,以及我们如何在保持能力的同时增加透明度。亚博体育苹果app官方下载

2016年4月1 - 3日加州伯克利分校

自我参照,类型理论和形式验证


参加工作就在类型理论的自我参照问题,并自动定理证明,与学习系统该模型本身的目标。亚博体育苹果app官方下载

2015年8月28 - 30日加州伯克利分校

第三次逻辑决策理论导论工作坊


这是一系列介绍性研讨会的第六次,在这里MIRI把不同背景的研究人员聚集在一起,讨论开放的问题亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是决策理论,并在研讨会开始项目在下面的帖子讨论:证明长度和逻辑反事实重新访问

8月7日至9日,2015年加州伯克利分校

第二次关于逻辑不确定性的介绍性研讨会


这是一系列介绍性研讨会的第五次,在这里MIRI把不同背景的研究人员聚集在一起,讨论开放的问题亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是逻辑的不确定性,并在研讨会开始项目在下面的帖子讨论:逻辑连贯性到底是为了什么?

2015年6月26 - 28日期间,加州伯克利分校

第一个介绍研讨会Vingean思考


这是一系列介绍性研讨会的第四次,在这里MIRI把不同背景的研究人员聚集在一起,讨论开放问题的其中一个亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是Vingean反思,研讨会上开始的项目将在以下文章中讨论:

6月12-14日,2015年加州伯克利分校

第2次逻辑决策理论导论工作坊


这是一系列介绍性研讨会的第三次,在这里MIRI把不同背景的研究人员聚集在一起,讨论开放的问题亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是决策理论,并在研讨会开始项目在下面的帖子讨论:有限和无限情况下的不动点定理

2015年5月29日到31日加州伯克利分校

第一次关于逻辑不确定性的介绍性研讨会


这是一系列介绍性研讨会的第二次,在这里,MIRI把不同背景的研究人员聚集在一起,讨论开放问题的其中一个亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是逻辑的不确定性,研讨会上开始的项目将在以下文章中讨论:

5月4-6日,2015年加州伯克利分校

第一次关于逻辑决策理论的入门课程


这是一系列介绍工作坊,其中美里汇集了来自不同背景的研究人员第一个,在一个讨论尚未解决的问题亚博体育官网技术议程并开始了该领域的项目和合作。

这次研讨会的主题是决策理论,研讨会上开始的项目将在以下文章中讨论:

2014年5月3-11,伯克利分校,

第七研讨会逻辑,概率,和反射


这个研讨会的参与者——他们都是过去研讨会的老兵——致力于各种与友好的人工智能相关的问题。本次研讨会的第一份技术报告已经发布在这里

2013年12月14到20,伯克利分校,

第六次逻辑、概率和反思研讨会


在本次研讨会的与会者集中在Lobian障碍概率逻辑,而逻辑与概率的交集更普遍。介绍了这次研讨会的结果在这里。见工作间的照片在这里

2013年11月23-29,- 英国牛津

第五次逻辑、概率和反思研讨会


这次研讨会的与会者调查了有关的问题反射剂概率逻辑,优先于逻辑陈述/逻辑上无所不知的问题。2013年12月的研讨会进一步发展了本次研讨会的一些成果并进行了描述在这里

2013年9月7 - 13日伯克利分校,

第四次逻辑、概率和反思研讨会


september_workshop_1_300px本次研讨会集中了各种相关的公开问题规范决策理论。与会者在LaVictoire等人的基础上对该地区的“适当问题”进行头脑风暴Lobian合作工作中,做出对形式化一些进展updateless决策理论,并提出了附加的玩具问题,如最终纽科姆的问题

这些结果仍在以各种形式写出来。

2013年7月8 - 14,伯克利分校,

第三研讨会逻辑,概率,和反射


september_workshop_2_300px该研讨会的重点是有关的各种问题自我修改系统的Lobian障碍亚博体育苹果app官方下载和Demski早期的研究合理的先验概率。该primary result was a proof that attempting to create a probability distribution which performs scientific induction on Π1statements, converging to probability 1 for the true versions of such statements, can create zero limiting probabilities assigned to true Π2语句。这一结果仍在书面上,但已在简要讨论一篇博客文章通过Demski。其他进步之位都在进一步发展研讨会和描述在这里

4月3日至24日,2013伯克利分校,

第二次逻辑,概率和反思研讨会


这个为期三周的研讨会同时讨论了多个开放研究问题。亚博体育官网首先,参与者发现了一个改进版本的反射原理发现在以前的车间,虽然这种进步仍然被写上去。其次,与会者LaVictoire在早期的工作中提高,导致纸张“囚徒困境中的稳健合作:可证明逻辑下的程序均衡第三,参与者在Benya Fallenstein的基础上有所提高参数多态的方法去探自我修改系统的Lobian障碍亚博体育苹果app官方下载

2012年11月11到18门,伯克利分校,

第一研讨会逻辑,概率,和反射


这个车间对敌人采取了一条进攻路线自我修改系统的Lobian障碍亚博体育苹果app官方下载。本车间的主要结果是在真实的塔斯基不可定义的非建设性“漏洞”(经由固定点定理),后来写入了草稿形式为“真理在概率逻辑中的可定义性”(见讨论在这里在这里,在这里)。