来自执行董事的问候
 亲爱的朋友们，
另一个忙碌的月份！自我们的上一篇新闻通讯以来，我们已发布3篇新论文和2个“分析”博客帖子，我们显着改进了我们的网站（特别是亚博体育官网
页面），我们已经重新安置到伯克利市中心，我们推出了我们的夏季2013年匹配筹款赛！！
Miri最近也介绍了有效的利他主义峰会，在加利福尼亚州奥克兰的60多名以上有效的利他主义者聚集。作为哲学家彼得歌手在他的中解释道谈话，有效的利他主义“结合了心脏和头部。”心灵激励我们对他人的同情和利他主义，而头部可以“确保[我们]做的是有效的，有效的，”，所以芦苇主义者不仅仅是一些好但是尽可能好。
当我解释的时候友好的AI研究作为有效的亚博体育官网利他主义，Miri成立于2000年，前提是，创建友好的AI可能是一种特别有效的方式，可以尽可能多地做得很好。有效的利他主义者专注于各种其他原因，如减贫。正如我所说的那样四个焦点利他主义的焦点领域，我认为，尽管他们对哪些焦点领域的意见差异是最佳的意见的差异，但对于有效的利他主义者来说很重要。世界需要更多种类的利他主义者。
Miri从事直接努力 - 例如友好的AI研究 - 提高亚博体育官网机器超高理智具有积极而非负面影响的赔率。但间接努力 - 例如传播理性和有效的利他主义 - 也可能发挥作用，因为它们会影响强大的AIS的背景。这就是我们创造的原因的一部分CFAR.。
如果你认为这项工作很重要，我希望你能yabo体育官网下载ios
支持我们的工作。Miri是完全由私人资助者提供支持你。如果您在8月15日之前yabo体育官网下载ios捐款，您的贡献将由其中一个慷慨的支持者匹配我们目前的筹款驱动。
谢谢，
卢克·穆罕沃斯
执行董事
我们的夏季2013年匹配筹款赛
由于若干主要捐助者的慷慨，从现在到2013年8月15日到2013年8月15日的每一个捐款都将与美元相匹配，总计200,000美元！
现在有机会加倍你的影响，同时帮助我们筹集高达400,000美元（以匹配）为基金亚博体育官网
。
今年初，我们从运动建设到研究的过渡，我们已经用六大重大新研究论文进行了地面，我们博客上的六项新的战略分析等等。亚博体育官网立即赠送以支持我们正在进行的工作未来最重要的问题。
2013年到目前为止的成就
未来计划您可以帮助支持
（其他项目仍在调查可能的成本和战略影响。）
感谢您对我们的高影响力工作的支持！yabo体育官网下载ios现在捐款，抓住比平时的机会前进。如果您对捐赠有疑问，请联系Louie Helm（510）717-1477或Louie@www.hdjkn.com。
新的研究亚博体育官网页面，三个新出版物
 我们新的亚博体育官网
页面已启动！
我们以前的研究页面是一个简亚博体育官网单的文章列表，但新页面描述了我们研究的目的，解释了我们贡献的四类研究，并突出了我们认为对阅读最重要的论文。
我们还发布了三篇新的研究文章。亚博体育官网
用于自我修饰的剪辑代理，以及呼吸障碍（讨论一下这里）由Yudkowsky和Herreshoff解释Miri研究议程中的关键问题之一：亚博体育官网
我们通过介绍“平铺”代理商来模拟AI的自我修改，其决策系统将批准高度相似的代理的构建，创建重复模式（包括后代目标的相似性）。亚博体育苹果app官方下载以最直接的方式构建形式主义，产生了意大利困难，“呼吸障碍”。通过技术方法，我们展示了避免这种障碍的可能性，但是仅部分地解决了合理相干性的潜在难题。我们将形式主义扩展到部分未知的确定性环境，并向概率环境和预期效用显示出非常原油的延伸;但找到自我修改概率代理的基本决策标准的问题仍然是开放的。
囚犯困境中的强大合作：通过可证明逻辑计划均衡（讨论一下这里），由Lavictoire等人解释了Miri研究助理帕特里克·瓦特奥尔和Miri 2013年4月的几个其他人在Miri Research Associate帕特里克·瓦亚博体育官网里瓦队和其他几项进展
虽然相互合作将对两家代理商产生更高的效用，但是一击囚犯的理性代理缺陷。Moshe Tennenholtz表明，如果允许每个计划将其竞争对手传递给所有其他玩家，那么部分计划可以在单枪囚犯的困境中合作。计划均衡是Tennenholtz在计划可以将他们的竞争对手传递给其他玩家的上下文中的纳什均衡的术语。到目前为止，这种方法的一个弱点是，即使它们在功能相同，任何两个方案都不能“识别”相互合作的措施。在本文中，可保释逻辑用于实现更灵活和安全的相互合作形式。
对灾难性的AGI风险的响应：调查（讨论一下这里）由Sotala和Alyampolskiy是AGI风险的现存文献（250多个参考文献）的摘要，可以作为研究人员的指南或作为未实施的介绍。亚博体育官网
许多研究人亚博体育官网员认为，人类将在接下来的二十到一百年内创造人工普通情报（AGI）。有人建议，AGI可能对人类造成灾难性的风险。总结了为什么AGI可能提出这种风险的原因，我们调查该领域的建议对AGI风险的响应。我们考虑社会提案，对AGI行为的外部限制提案，以及创建由于其内部设计而安全的AGIS的建议。
两个新分析
 MIRI向博客发布了一些最实质性的研究亚博体育官网yabo app
类别。例如，何时会创建AI？是20多小时工作的产品，有14个脚注和40多个学术参考（所有与PDF相关的学术参考文献）。
上个月，我们发表了两个新分析。
友好的AI研究作为有效的亚博体育官网利他主义呈现一个裸体版本的论点，即友好的AI研究是一种特别有效的购买预期价值的方法，因此可以通过Miri和其他人阐述该论点。亚博体育官网
什么是情报？辩称，不精确的工作定义可能是有用的，解释了特定的不精确工作定义智力我们倾向于在Miri使用：高效的跨域优化。未来的帖子将讨论“人为普通情报”的一些可能有用的工作定义。
格兰特作家需要
Miri想聘请某人编写授权申请，以便我们的研究努力和茎干教育。亚博体育官网如果您有任何一个，请申请这里。
该工资将取决于技能和经验，可以谈判。
特色志愿者
Oliver Habryka通过校对Miri的论文帮助，并且能够在某些时候促进我们的研究，也许是“从机器道德的道德规范课程”的主题。亚博体育官网Oliver独立于他的直接贡献Miri的工作，奥利弗还讲述了与Miri在他的高中工作有关的主题，并且还教授了一个合理性的课程，他通过使用“平衡”奖励制度来启发参与。亚博体育苹果app官方下载Oliver目前正在研究数学的基础，并希望有一天能够引导他的职业目标，使他对我们使命的贡献随着时间的推移而增加。
|
亲爱的朋友们，
我们新的
MIRI向博客发布了一些最实质性的研究亚博体育官网