新论文:“预测AGI:当我们知之甚少时,我们能说什么?”

||论文

预测美国国际集团MIRI研亚博体育官网究助理Benja Fallenstein和加州大学伯克利分校的学生Alex Mennen发表了一篇新的工作论文,题为“AGI预测:当我们知道的如此之少时,我们能说什么呢?

从简介:

这种分析并不试图预测何时真正实现AGI,而是预测关于AGI的认知状态何时会改变,这样我们就能清楚地知道在我们达到AGI之前还需要多少进展。打个比方,我们不是预测人工智能何时起飞,而是预测它何时开始滑行到跑道上。

本文认为“滑行时间”应采用帕累托分布,并得出如下结论:

总的来说,帕累托分布表明,我们应该更重视短期策略,而不是偏态较小的分布(例如,正态分布),但中位数相同。