今日,Anthropic在X平台发布推文,宣布最新研究显示其Claude模型拥有类似“灵魂”的结构,并提出了AI和人脑之间存在“趋同进化”的观点。研究论文《大语言模型中的全局工作空间》中指出,在Claude模型中发现了类似于神经科学中的“全局工作空间理论”的结构,并将其命名为J-space。这一理论在神经科学中用于解释注意力、意识访问和复杂推理中的信息整合过程。
论文中还介绍了J-lens工具,这是一种数学分析方法,用于减少模型后台任务的干扰,专注于Claude在特定时刻关注的概念。为验证J-space的存在,Anthropic列出了四项观察结果,包括询问Claude正在思考什么,以及观察它如何处理公平概念、解决复杂问题时J-space的作用,以及概念被拖入J-space后其他部分如何利用该概念。Anthropic表示,这种结构并非Claude架构中预先设计的,而是在训练过程中自行出现的,推测原因是这种方式有助于组织计算。官方通过“趋同演化”概念来描述人脑与AI模型可能因处理复杂信息的效率需求而出现功能上相似的结构设计。


