以下是基于AI Alignment的虚构对话:Why It’s Hard, and Where to Start。(在一个不太接近的世界的某个地方，那里的科学走上了完全不同的道路……)我注意到最近有很多关于“太空飞机”被用来攻击城市的猜测，或者可能被注入了恶意……阅读更多»
贴子:以利以谢Yudkowsky
对克里斯汀诺能力增强方案的挑战
以下是我在3月16日所写的关于我对Paul Christiano的AGI对齐方法(在“ALBA”和“迭代蒸馏和放大”中有描述)的基本未经编辑的摘要。在Paul有评论和回复的地方，我把它们包括在下面。我看到了很多自由变量Paul可能有。阅读更多»
对弗朗索瓦·乔莱关于情报爆炸的回复
这是对Francois Chollet的回复，他是Tensorflow和Theano深度学习系统的Keras包装器的发明者，在他的文章《智能爆炸的不可能》中写道。亚博体育苹果app官方下载作为对他文章的回应，夏勒特在推特上写道:如果你在网上发布一个论点，你得到的唯一反对意见是愚蠢的论点……阅读更多»
安全心态和逻辑成功曲线
后续:安全心态和普通偏执狂(两天后，Amber带着另一个问题回来了。)安布尔:嗯，比如说，珊瑚。当您正在构建一种全新的系统——比如，一个可能受到不利优化压力的系统，而您希望它具有某种健壮性时，安全心态有多重要?亚博体育苹果app官方下载珊瑚:这是多么新奇啊……阅读更多»
安全心态和普通妄想症
以下是基于AI Alignment的虚构对话:Why It’s Hard, and Where to Start。(AMBER，一个对更可靠的互联网感兴趣的慈善家，和CORAL，一个计算机安全专家，在一个会议酒店一起讨论CORAL坚持认为是一个困难而重要的问题:构建“安全”的困难……阅读更多»
AlphaGo Zero和Foom辩论
AlphaGo Zero使用4个tpu，完全由神经网络构建而成，没有任何手工制作的功能，不会对专家游戏或任何人类游戏进行预先训练，在3天的自我游戏后达到超人水平，是迄今为止最强的AlphaGo版本。体系结构已经简化。之前的AlphaGo有一个政策网络，可以预测……阅读更多»
人工通用智能没有火警
火灾报警器的功能是什么?有人可能会认为火灾警报的功能是为你提供火灾存在的重要证据，让你相应地改变你的政策，并退出建筑。在Latane和Darley 1968年的经典实验中，八组…阅读更多»
AI对齐:为何困难，从何开始
今年5月，我在斯坦福大学为“符号系统杰出演讲者系列”做了一个演讲，题目是“AI对齐问题:为什么很难，从哪里开始”。亚博体育苹果app官方下载这次演讲的视频现在可以在Youtube上找到:我们有一份大致完整的演讲记录和问答环节，幻灯片…阅读更多»
