新报告:“亚洲会议:风险缓解案例研究”

||文件

今天我们发布了Katja Grace的新报告亚洲会议:风险缓解的案例研究“(PDF,67页)。

1975年的阿西洛玛重组DNA会议有时被引用为科学家们成功行动的一个例子,他们先发制人地发现了一种新兴技术的潜在危险,并采取干预措施来降低风险。我们进行这项调查是为了检查这个基本的故事是否真实,以及这些事件可能给人工智能和其他领域带来什么教训前所未有的技术风险.

为了编写这份报告,格蕾丝咨询了几个主要和次要的资料来源,还进行了报告中引用的四次访谈。以下是访谈:

本报告未经单独审查的基本结论如下:

  1. 推动亚西洛马会议的具体危险是相对直接的,而不是长期的。这些危险实际上是不存在的。对于科学家是否应该更好地了解他们当时掌握的信息,专家们意见不一。
  2. 这次会议似乎使实验室的一般安全做法有所改进。
  3. 这次会议似乎避免了监管,帮助科学家与公众建立了更好的关系。这些影响是否对社会有利取决于(例如)这类科学活动不受管制是否更好,本报告没有讨论这个问题。