人脑的结构并不匀称。。。经由漫长的演化， ，，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理， ，，，各自盘踞在皮层相对牢靠的区域， ，，，既分工又协作。。。困扰研究职员许久的一个问题是：大脑的功效分区， ，，，事实是任何智能系统都躲不开的必定， ，，，照旧人类演化路上的一个无意？？？？ ？？
最近， ，，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注， ，，，谜底更倾向于前者。。。事实， ，，，大语言模子的来路完全差别。。。它没有身体， ，，，也没有履历演化， ，，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。。当一个结构云云差别的系统也泛起了这套分工， ，，，它更可能是智能自己的深层纪律， ，，，而不是碳基大脑的无意。。。不过作者也审慎地强调， ，，，这只是“证据的指向”， ，，，还谈不上定论。。。
这项研究由两位资深学者带队。。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko， ，，，她因界定出人脑中专门认真语言的“语言网络”而着名， ，，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖；；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas， ，，，他是 AI 与自然语言处理领域的着名学者。。。而研究的第一作者是韩芃睿， ，，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士， ，，，导师是尤佳轩教授；；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会， ，，，曾获 NeurIPS Workshop 最佳论文声誉提名。。。
（泉源：Github）
在这项研究中， ，，，团队剖析了六个 24B 到 123B 的主流开源模子， ，，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命， ，，，用电路级要领定位每个使命真正依赖的神经元。。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多）， ，，，还做了一个很清洁的验证：关掉认真语言的神经元， ，，，模子物理照样推理得对， ，，，只是话说得欠亨顺；；；关掉认真物理的神经元， ，，，句子流通， ，，，却把结论说反了。。。这套分工不但是统计上的巧合， ，，，而是有实着实在的因果效力。。。
围绕这项研究， ，，，以及它用 AI 明确智能自己的理念， ，，，DeepTech 和韩芃睿举行了一次对话。。。
用另一种智能， ，，，回覆一个只有一个样本的问题
DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”， ，，，照旧“生物演化的无意”？？？？ ？？
韩芃睿：这个问题光靠研究大脑自己很难回覆。。。由于我们只有一个样本， ，，，并且生物组织还背着许多和使命无关的约束， ，，，好比能量代谢。。。
趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信， ，，，它是被问题自己逼出来的， ，，，而不是无意。。。
LLM 给了我们一个全新的时机。。。它是另一类智能系统， ，，，走的是完全差别的优化路径， ，，，实质上是在展望下一个词元（next-token prediction）上做梯度下降， ，，，和生物演化很是差别。。。同时它又具备许多人类独吞的高级认知能力， ，，，好比明确人类语言、解决重大的数学问题。。。以是若是？？？？ ？？榛 LLM 里也自力泛起了， ，，，那它更可能是任何朝着智能优化的系统都会收敛到的解， ，，，而不是碳基大脑的无意。。。这就是我们用 LLM 切进来的焦点念头。。。
DeepTech：团队里既有认知科学家 Evelina Fedorenko， ，，，也有 AI 研究者 Jacob Andreas。。。这双方看问题的方式很纷歧样， ，，，你们怎么协调这些视角？？？？ ？？
韩芃睿：着实双方的摩擦比想象中小许多。。。由于 Jacob 和 Ev 都研究语言和 AI， ，，，共享了很是多的兴趣和判断， ，，，只是着重纷歧样。。。Jacob 会更聚焦在算法这一层。。。举个详细的例子：我们最最先用的要领更偏神经科学一点， ，，，直接拿最小比照对（minimal pair）去比激活值， ，，，看哪些神经元在统计上是显著的。。。但厥后发明， ，，，这样识别出来的单位没有很好的因果影响， ，，，Jacob 就建议我们换成 patching 这类更严酷的要领， ，，，这直接决议了后面整套流程。。。
Ev 这边更在意科学层面的洞见， ，，，好比怎么让使命和脑网络的对应更扎实， ，，，以及我们究竟能磨练哪些真正有意思的假设。。。一个稍微偏要领上站不站得住， ，，，一个稍微偏科学上值不值得问， ，，，两个视角着实是互补的， ，，，最后拼在一起， ，，，研究才完整。。。
？？？？ ？？榛， ，，，是“同时解决许多问题”逼出来的
DeepTech：若是用最简朴的一句话概括你们的研究发明， ，，，你会怎么说？？？？ ？？
韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子， ，，，会自觉长出和人脑相似的？？？？ ？？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。。并且这种分工是有因果效力的：关掉某个域的神经元， ，，，只会破损谁人域的能力。。。
DeepTech：你们有一个很直观的效果， ，，，统一类使命用的是重叠的神经元， ，，，差别类使命用的是险些不相关的神经元， ，，，同域重叠是跨域的四倍多。。。LLM 为什么会形成这种分工？？？？ ？？
韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望， ，，，而这种展望经常需要多种推理同时上场。。。好比， ，，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模， ，，，社会推理去推死心头， ，，，物理推理去判断作案在物理上是否可能， ，，，而这些还都得息争析句子结构的语言处理交织在一起。。。
当多种盘算要在统一个输入上同时运行， ，，，系统就面临一个压力：别让它们相互滋扰。。。这个压力有两层。。。一层是处理层面， ，，，几种信息要同时体现， ，，，编码就必需相互可分， ，，，否则会撞在一起、相互污染。。。另一层是学习层面， ，，，若是差别盘算的神经元混在一起， ，，，刷新一个域的更新就会扰动另一个域， ，，，这就是漫衍式系统里灾难性滋扰的老问题。。。
把差别盘算分给差别的神经元， ，，，正好同时解决了这两种滋扰。。。以是？？？？ ？？榛芸赡懿皇潜凰杓频， ，，，而是来自于同时解决许多种问题的压力。。。
DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元， ，，，模子推理是对的， ，，，但语法最先蜕化；；；关掉认真物理的神经元， ，，，语法流通， ，，，却把物理结论说反了。。。这种形式与内容的疏散， ，，，你会怎么明确？？？？ ？？
韩芃睿：对， ，，，这正是我们在损伤实验里看到的双疏散（double dissociation）， ，，，并且它很是清洁。。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。。关掉语言神经元， ，，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量， ，，，但语法和词法最先蜕化。。。反过来关掉物理神经元， ，，，句子依然通顺流通， ，，，但物理结论说反了。。。
这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。。它们在统一个输出上协作， ，，，但可以被自力地破损。。。这种可疏散性自己， ，，，就是？？？？ ？？榛钪苯拥男形ぞ。。。这着实也和 Ev 之前在人身上的发明很呼应。。。好比语言能力严重受损的失语症患者， ，，，他们险些无法明确语言， ，，，却依然能完成很重大的推理、数学和逻辑使命。。。
DeepTech：Transformer 没有神经科学的能量价钱， ，，，损失函数也不在乎详细用了几多神经元， ，，，它却照样泛起了？？？？ ？？榛。。。你以为是什么在驱动它？？？？ ？？
韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元， ，，，比普遍激活省能量， ，，，而给每类使命分一套专属神经元， ，，，正好能实现这种希罕。。。但这个压力对我们研究的 LLM 完全不适用。。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别， ，，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。。？？？？ ？？杉幢阍圃， ，，，一个显着可识别的、类人的？？？？ ？？榛橹昭浩鹆。。。
这说明， ，，，代谢压力不管在塑造人类皮层时起了多着述用， ，，，它都不是功效特化泛起的须要条件。。。那真正在驱动的是什么？？？？ ？？我们以为一种可能， ，，，就是前面说的那种滋扰压力， ，，，它不需要任何能量价钱就能建设。。。
DeepTech：比照实验里， ，，，小模子 GPT-2 做差池这些推理使命， ，，，它只能分出“语言 VS 其他”， ，，，分不出更细的？？？？ ？？。。。你们也提到“？？？？ ？？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹。。。你可以详细诠释一下吗？？？？ ？？
韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。。唬唬换句话说， ，，，若是模子基础做差池、或者明确不了某个使命， ，，，它内部就没有一套对的盘算可言， ，，，修补出来的工具自然也没有意义。。。GPT-2 的比照正好佐证了这一点。。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上， ，，，它做不了大部分推理使命， ，，，效果就只能分出“语言 vs 其他”。。。这说明凯时AG框架测的是底层盘算， ，，，而不是数据自己的假象。。。
虽然， ，，，我们也认可， ，，，换一套别的要领或者换更简朴的使命， ，，，GPT-2 有可能也展现出某种？？？？ ？？榛。。。以是， ，，，凯时AG发明想强调两点：第一， ，，，我们这个框架测到的是盘算， ，，，而不是数据的假象。。。我们还专门做了一个关于语义的比照实验来佐证， ，，，光靠 prompt 的语义相似度是还原不出这个结构的；；；第二， ，，，也正由于这样， ，，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系， ，，，我们更愿意说：模子真正能解题， ，，，是它泛起的条件。。。只有能明确、能做对， ，，，才谈得上盘算、才谈得上电路。。。
把 LLM 看成“第二种智能系统”来研究
DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。。这对研究大脑有什么详细的启示？？？？ ？？
韩芃睿：LLM 作为一个科学研究工具， ，，，在拥有许多重大行为和能力的同时， ，，，比人脑有更多可控性， ，，，也更容易交互。。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么， ，，，这些在人身上要么做不到， ，，，要么价钱极高。。。以是它自己就是一个很适合拿来做科学研究的工具， ，，，能帮我们更高效地磨练关于智能和认知的假设。。。
对神经科学， ，，，我们有两个挺详细的偏向。。。一是展望：凯时AG要领可以从 LLM 出发， ，，，对一个全新的使命会挪用人脑哪个网络天生假设， ，，，再拿去用 fMRI 验证， ，，，即是给脑科学多了一个爆发假设的泉源。。。二是研究信息流：差别脑网络之间怎么把信息传给相互， ，，，这在人脑里极难研究， ，，，由于你需要同时具备很高的空间和时间分辨率， ，，，而这个组合在人类神经成像里基本做不到。。。但在 LLM 里， ，，，我们能同时会见所有神经元和它们的毗连， ，，，以是可以去构建和磨练一些机制层面的假设， ，，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。。
DeepTech：反过来， ，，，你以为这项发明对做 AI 的人有什么用？？？？ ？？知道模子内部是？？？？ ？？榛， ，，，能帮我们把模子造得更好或者更可控吗？？？？ ？？
韩芃睿：最直接的一条， ，，，和现在很火的混淆专家模子（mixture-of-experts， ，，，MoE）有关。。。MoE 被接纳主要是出于效率思量， ，，，把每个 token 路由给一部分专家， ，，，能镌汰激活的参数目。。。但凯时AG发明提醒， ，，，？？？？ ？？榛橹约嚎赡芑勾刺亓硗馀趟阌攀， ，，，而不但是省算力。。。
已经有事情往这个偏向走了， ，，，好比让专家之间形成类脑的特化， ，，，既保住了推理的性能， ，，，又让模子更可诠释、更可指导。。。以是知道模子内部是？？？？ ？？榛， ，，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。。这块还很开放， ，，，值得深挖：？？？？ ？？榛托阅苤， ，，，究竟是什么关系。。。
AI 像大脑， ，，，最怕被太过解读
DeepTech：AI 像大脑这种说法很容易被太过解读。。。作为研究者， ，，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？？？ ？？
韩芃睿：这是个很好的问题。。。做这类研究一个很主要的注重事项， ，，，就是不要太过地把 LLM 当人。。。随着研究深入， ，，，许多实验室确实发明了越来越多 AI 和大脑相似的地方， ，，，从行为到机理， ，，，这很是令人兴奋。。。但不可否认， ，，，LLM 和大脑有着根天性的差别， ，，，并且它只由语言这一个模态驱动。。。
以是我的态度是：LLM 是一个很好的工具， ，，，可以拿来磨练假设、去交互、去探测， ，，，把它当成一个科学研究工具来研究， ，，，这比研究人有更多可控性、也更高效。。。但不可盲目。。。每一个实验我们都要起劲去分清， ，，，这个相似背后真正的泉源是什么。。。它可能来自一个真正的原理， ，，，也可能只是某些人类数据的假象， ，，，或者其他种种因素。。。把这些分清， ，，，才华让研究更经得起推敲。。。
DeepTech：抛开这项详细的研究， ，，，在“用 AI 明确智能自己”这个偏向上， ，，，你以为最大的挑战是什么？？？？ ？？
韩芃睿：我以为最大的挑战， ，，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。。
现在我们缺一套公认的标准， ，，，去判断某个 AI 和大脑相似究竟算不算数。。。它是两类智能系统面临统一个问题各自收敛出的深层原理， ，，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。。每一个这样的相似， ，，，都需要单独去设计比照、去扫除掉浅层的诠释， ，，，才敢说它有意义。。。
运营/排版：何晨龙
注：封面/首图由 AI 辅助天生
