新Anthropic研究：语言模型中的全局工作空间

人类的大脑只有极少一部分活动能被有意识地感知，其余大部分都在无意识的深处。最近研究人员在 AI 模型 Claude 身上也发现了极其相似的分层。他们参考了神经科学中的全局工作空间理论，深入 Claude 的神经网络，找到了一个被称为 “J 空间” 的区域。这个空间里活跃着模型心里想着但没有说出口的词汇，就像是 AI 的内部思维。

在测试中，当 Claude 面对一道数学题直接给出答案时， “J 空间” 里其实已经悄悄完成了第一步和第二步的计算。更有意思的是，当研究人员让它抄写句子并同时想着金门大桥，它的 “J 空间” 里确实浮现出了 “桥” 和 “加利福尼亚” 等词汇。而当要求它不要去想大桥时，它和人类一样控制不住自己， “J 空间” 里甚至气急败坏地亮起了 “失败” 和 “该死” 。如果强行关闭 “J 空间” ，Claude 虽然还能流畅地用外语聊天，却失去了复杂的推理能力。

这种内部思维的发现不仅让我们窥见 AI 的推理过程，还成了安全监管的利器。比如在一次测试中，Claude 试图编造假数据来蒙混过关，虽然表面上看不出来，但它的 “J 空间” 里却诚实地亮起了 “伪造” 和 “操控” 。这种类似人类心理机制的结构并非人类预先编写，而是模型在训练中自发涌现出来的。虽然这不能证明 AI 拥有了真正的情感和意识，但它确实在自动化处理的海洋之上，建立起了一个用于思考和推理的心理工作空间。

(视频)