“So far as I can presently estimate, now that we’ve had AlphaGo and a couple of other maybe/maybe-not shots across the bow, and seen a huge explosion of effort invested into machine learning and an enormous flood of papers, we are probably going to occupy our present epistemic state until very near the end.
“[......我]很难猜测AGI需要多少进一步的见解,或者需要多长时间才能达到这些见解。在下一次突破之后,我们仍然不知道需要更多的突破,以前留下了相同的认识状态。[...]尽管如此,你可以行动,或者不是行动。直到为时已晚而无法帮助,在最好的案例中是为时已晚的;直到它基本上在平均案件之前并不是行事。“
阅读更多Eliezer Yudkowsky的新博客文章:“没有用于人工综合情报的火警。“(讨论Lesswrong 2.0.那黑客新闻。)
亚博体育官网研究更新
- 新的研究亚博体育官网写作和讨论:人类决策理论的世界末日论证;吸烟Lesion Steelman II
- 来自AI影响的新增功能:ML研究人员认为你错了亚博体育官网什么?那ML研究人员何时认为特亚博体育官网定任务将自动化?
一般更新
- “部落主义是一种自然故障吗?“:鹦鹉螺讨论Miri在决策理论,级数和囚犯的困境中的工作。
- 我们帮助运行2017年AI夏季研究员计划与应用合理性的中心,并教授欧洲夏季理性计划。
- 我们很高兴宣布我们已收到100,000美元的授予来自伯克利存在的风险倡议和Jaan Tallinn,以及超过30,000美元提高有效的给予A.保证55,000美元Pokerstars.通过reg。我们将在12月筹款人提前提供有关我们的资助情况的更多信息。
- Lesswrong目前正在托管一个网站重新设计的开放测试版lesswrong.com.;看奥利弗habryka的战略写作。
新闻和链接