这是 AI 领域最重要的成果之一。 本周五,OpenAI 可解释团队创建人 Nick Cammarata 的一篇超长文章震动了 AI 圈。他说利用现代智能体工具,万亿参数的大模型也是几乎可读的,我们对于神经网络「黑箱」的看法被证明是误解,预期的障碍大多不存在,可解释性将被解决,而且可能很快就会实现。 这可能是可解释性的「苦涩教训」:简单的事情,在荒谬的规模下,就能奏效。 我们能训练出强大的 AI,却未必知道它为什么这样回答。如果让 AI 帮忙研究神经网络的「脑回路」,能否打开这个黑箱?答案似乎是肯定的。 Nick 的文章虽然极长(阅读需要 65 分钟),