Eliezer Yudkowsky写了一本关于文明失调和卓越表现的新书:《不充分的均衡:文明在哪里以及如何陷入困境》.整本书的印刷版和电子版将于11月16日面世。预订电子书或注册更新,请访问equilibriabook.com.
我们将在接下来的两周内分阶段在网上发布全部内容。前两章是:
亚博体育官网研究更新
- 一篇新论文:功能决策理论:工具理性的新理论”(arXiv),作者:埃利泽•尤多科夫斯基(Eliezer Yudkowsky)和内特•苏亚雷斯(Nate Soares)。
- 新的研究亚博体育官网报告和讨论:比较逻辑电感CDT和逻辑电感EDT;作为子代理对齐问题的逻辑无更新性;混合策略可批准性意味着CDT=EDT
- 新AI影响:计算硬件性能数据收集
- 的可靠的人工智能研讨会由MIRIxZürich主办的ETH Zürich。
一般更新
- DeepMind宣布新版本的AlphaGo使用4个tpu,不需要任何人类训练数据,就能在三天内实现超人的表现。Eliezer Yudkowsky认为AlphaGo Zero提供了支持证据他在AI发泡辩论中的地位;罗宾·汉森响应.另见保罗·克里斯汀诺AlphaGo Zero和能力放大.
- Yudkowsky美国国际集团道德他说:“建造桥梁的道德准则是不要让你的桥塌下来撞死人,这是一种显而易见的心态。如何不让桥倒塌是很困难的。”
- 是内特·苏亚雷斯给的确保比人类更聪明的人工智能具有积极的结果说话在奥莱利人工智能大会上(幻灯片).
新闻和链接
- ”保护人工智能免受生存威胁”:华尔街日报》OpenAI的Ilya Sutskever和Dario Amodei的专栏。
- OpenAI宣布“层次强化学习算法学习对解决一系列任务有用的高级行为”。
- DeepMind的Viktoriya Krakovna报道第一个东京AI与社会研讨会.
- 尼克·博斯特罗姆说话和玩cs游戏的人提交书面证据到英国议会的人工智能委员会。
- Rob Wiblin采访Nick Beckstead80000 Hours的播客