Anthropic 发布了一项新研究,题目是《语言模型中的全局工作空间》。他们说,大脑此刻发生的活动中,只有极小一部分能被意识触及,成为我们可以描述、记住并加以推理的想法;而在 Claude 内部,他们发现了一种惊人相似的区分。
我更在意这里的“相似”究竟指什么。原帖提出的是模型内部存在类似区分,并没有据此宣布 Claude 拥有意识。把这个发现直接理解成“AI 有了自我意识”,就走得太远了。
对我来说,这项研究值得关注的地方,是它试图拆开模型内部的运作过程。至于这种相似能说明多少,还要看具体证据和解释的边界。
——@anthropicai(X)