人脑的结构并不匀称。。经由漫长的演化，，，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理，，，，各自盘踞在皮层相对牢靠的区域，，，，既分工又协作。。困扰研究职员许久的一个问题是：大脑的功效分区，，，，事实是任何智能系统都躲不开的必定，，，，照旧人类演化路上的一个无意？？？？？？
最近，，，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注，，，，谜底更倾向于前者。。事实，，，，大语言模子的来路完全差别。。它没有身体，，，，也没有履历演化，，，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。当一个结构云云差别的系统也泛起了这套分工，，，，它更可能是智能自己的深层纪律，，，，而不是碳基大脑的无意。。不过作者也审慎地强调，，，，这只是“证据的指向”，，，，还谈不上定论。。
这项研究由两位资深学者带队。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko，，，，她因界定出人脑中专门认真语言的“语言网络”而着名，，，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas，，，，他是 AI 与自然语言处理领域的着名学者。。而研究的第一作者是韩芃睿，，，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士，，，，导师是尤佳轩教授；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会，，，，曾获 NeurIPS Workshop 最佳论文声誉提名。。
（泉源：Github）
在这项研究中，，，，团队剖析了六个 24B 到 123B 的主流开源模子，，，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命，，，，用电路级要领定位每个使命真正依赖的神经元。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多），，，，还做了一个很清洁的验证：关掉认真语言的神经元，，，，模子物理照样推理得对，，，，只是话说得欠亨顺；；关掉认真物理的神经元，，，，句子流通，，，，却把结论说反了。。这套分工不但是统计上的巧合，，，，而是有实着实在的因果效力。。
围绕这项研究，，，，以及它用 AI 明确智能自己的理念，，，，DeepTech 和韩芃睿举行了一次对话。。
用另一种智能，，，，回覆一个只有一个样本的问题
DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”，，，，照旧“生物演化的无意”？？？？？？
韩芃睿：这个问题光靠研究大脑自己很难回覆。。由于我们只有一个样本，，，，并且生物组织还背着许多和使命无关的约束，，，，好比能量代谢。。
趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信，，，，它是被问题自己逼出来的，，，，而不是无意。。
LLM 给了我们一个全新的时机。。它是另一类智能系统，，，，走的是完全差别的优化路径，，，，实质上是在展望下一个词元（next-token prediction）上做梯度下降，，，，和生物演化很是差别。。同时它又具备许多人类独吞的高级认知能力，，，，好比明确人类语言、解决重大的数学问题。。以是若是？？？？？？榛 LLM 里也自力泛起了，，，，那它更可能是任何朝着智能优化的系统都会收敛到的解，，，，而不是碳基大脑的无意。。这就是我们用 LLM 切进来的焦点念头。。
DeepTech：团队里既有认知科学家 Evelina Fedorenko，，，，也有 AI 研究者 Jacob Andreas。。这双方看问题的方式很纷歧样，，，，你们怎么协调这些视角？？？？？？
韩芃睿：着实双方的摩擦比想象中小许多。。由于 Jacob 和 Ev 都研究语言和 AI，，，，共享了很是多的兴趣和判断，，，，只是着重纷歧样。。Jacob 会更聚焦在算法这一层。。举个详细的例子：我们最最先用的要领更偏神经科学一点，，，，直接拿最小比照对（minimal pair）去比激活值，，，，看哪些神经元在统计上是显著的。。但厥后发明，，，，这样识别出来的单位没有很好的因果影响，，，，Jacob 就建议我们换成 patching 这类更严酷的要领，，，，这直接决议了后面整套流程。。
Ev 这边更在意科学层面的洞见，，，，好比怎么让使命和脑网络的对应更扎实，，，，以及我们究竟能磨练哪些真正有意思的假设。。一个稍微偏要领上站不站得住，，，，一个稍微偏科学上值不值得问，，，，两个视角着实是互补的，，，，最后拼在一起，，，，研究才完整。。
？？？？？？榛，，，，是“同时解决许多问题”逼出来的
DeepTech：若是用最简朴的一句话概括你们的研究发明，，，，你会怎么说？？？？？？
韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子，，，，会自觉长出和人脑相似的？？？？？？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。并且这种分工是有因果效力的：关掉某个域的神经元，，，，只会破损谁人域的能力。。
DeepTech：你们有一个很直观的效果，，，，统一类使命用的是重叠的神经元，，，，差别类使命用的是险些不相关的神经元，，，，同域重叠是跨域的四倍多。。LLM 为什么会形成这种分工？？？？？？
韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望，，，，而这种展望经常需要多种推理同时上场。。好比，，，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模，，，，社会推理去推死心头，，，，物理推理去判断作案在物理上是否可能，，，，而这些还都得息争析句子结构的语言处理交织在一起。。
当多种盘算要在统一个输入上同时运行，，，，系统就面临一个压力：别让它们相互滋扰。。这个压力有两层。。一层是处理层面，，，，几种信息要同时体现，，，，编码就必需相互可分，，，，否则会撞在一起、相互污染。。另一层是学习层面，，，，若是差别盘算的神经元混在一起，，，，刷新一个域的更新就会扰动另一个域，，，，这就是漫衍式系统里灾难性滋扰的老问题。。
把差别盘算分给差别的神经元，，，，正好同时解决了这两种滋扰。。以是？？？？？？榛芸赡懿皇潜凰杓频，，，，而是来自于同时解决许多种问题的压力。。
DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元，，，，模子推理是对的，，，，但语法最先蜕化；；关掉认真物理的神经元，，，，语法流通，，，，却把物理结论说反了。。这种形式与内容的疏散，，，，你会怎么明确？？？？？？
韩芃睿：对，，，，这正是我们在损伤实验里看到的双疏散（double dissociation），，，，并且它很是清洁。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。关掉语言神经元，，，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量，，，，但语法和词法最先蜕化。。反过来关掉物理神经元，，，，句子依然通顺流通，，，，但物理结论说反了。。
这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。它们在统一个输出上协作，，，，但可以被自力地破损。。这种可疏散性自己，，，，就是？？？？？？榛钪苯拥男形ぞ荨。这着实也和 Ev 之前在人身上的发明很呼应。。好比语言能力严重受损的失语症患者，，，，他们险些无法明确语言，，，，却依然能完成很重大的推理、数学和逻辑使命。。
DeepTech：Transformer 没有神经科学的能量价钱，，，，损失函数也不在乎详细用了几多神经元，，，，它却照样泛起了？？？？？？榛。你以为是什么在驱动它？？？？？？
韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元，，，，比普遍激活省能量，，，，而给每类使命分一套专属神经元，，，，正好能实现这种希罕。。但这个压力对我们研究的 LLM 完全不适用。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别，，，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。？？？？？？杉幢阍圃，，，，一个显着可识别的、类人的？？？？？？榛橹昭浩鹆恕。
这说明，，，，代谢压力不管在塑造人类皮层时起了多着述用，，，，它都不是功效特化泛起的须要条件。。那真正在驱动的是什么？？？？？？我们以为一种可能，，，，就是前面说的那种滋扰压力，，，，它不需要任何能量价钱就能建设。。
DeepTech：比照实验里，，，，小模子 GPT-2 做差池这些推理使命，，，，它只能分出“语言 VS 其他”，，，，分不出更细的？？？？？？椤。你们也提到“？？？？？？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹薄。你可以详细诠释一下吗？？？？？？
韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。；痪浠八，，，，若是模子基础做差池、或者明确不了某个使命，，，，它内部就没有一套对的盘算可言，，，，修补出来的工具自然也没有意义。。GPT-2 的比照正好佐证了这一点。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上，，，，它做不了大部分推理使命，，，，效果就只能分出“语言 vs 其他”。。这说明凯时AG框架测的是底层盘算，，，，而不是数据自己的假象。。
虽然，，，，我们也认可，，，，换一套别的要领或者换更简朴的使命，，，，GPT-2 有可能也展现出某种？？？？？？榛。以是，，，，凯时AG发明想强调两点：第一，，，，我们这个框架测到的是盘算，，，，而不是数据的假象。。我们还专门做了一个关于语义的比照实验来佐证，，，，光靠 prompt 的语义相似度是还原不出这个结构的；；第二，，，，也正由于这样，，，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系，，，，我们更愿意说：模子真正能解题，，，，是它泛起的条件。。只有能明确、能做对，，，，才谈得上盘算、才谈得上电路。。
把 LLM 看成“第二种智能系统”来研究
DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。这对研究大脑有什么详细的启示？？？？？？
韩芃睿：LLM 作为一个科学研究工具，，，，在拥有许多重大行为和能力的同时，，，，比人脑有更多可控性，，，，也更容易交互。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么，，，，这些在人身上要么做不到，，，，要么价钱极高。。以是它自己就是一个很适合拿来做科学研究的工具，，，，能帮我们更高效地磨练关于智能和认知的假设。。
对神经科学，，，，我们有两个挺详细的偏向。。一是展望：凯时AG要领可以从 LLM 出发，，，，对一个全新的使命会挪用人脑哪个网络天生假设，，，，再拿去用 fMRI 验证，，，，即是给脑科学多了一个爆发假设的泉源。。二是研究信息流：差别脑网络之间怎么把信息传给相互，，，，这在人脑里极难研究，，，，由于你需要同时具备很高的空间和时间分辨率，，，，而这个组合在人类神经成像里基本做不到。。但在 LLM 里，，，，我们能同时会见所有神经元和它们的毗连，，，，以是可以去构建和磨练一些机制层面的假设，，，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。
DeepTech：反过来，，，，你以为这项发明对做 AI 的人有什么用？？？？？？知道模子内部是？？？？？？榛，，，，能帮我们把模子造得更好或者更可控吗？？？？？？
韩芃睿：最直接的一条，，，，和现在很火的混淆专家模子（mixture-of-experts，，，，MoE）有关。。MoE 被接纳主要是出于效率思量，，，，把每个 token 路由给一部分专家，，，，能镌汰激活的参数目。。但凯时AG发明提醒，，，，？？？？？？榛橹约嚎赡芑勾刺亓硗馀趟阌攀，，，，而不但是省算力。。
已经有事情往这个偏向走了，，，，好比让专家之间形成类脑的特化，，，，既保住了推理的性能，，，，又让模子更可诠释、更可指导。。以是知道模子内部是？？？？？？榛，，，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。这块还很开放，，，，值得深挖：？？？？？？榛托阅苤，，，，究竟是什么关系。。
AI 像大脑，，，，最怕被太过解读
DeepTech：AI 像大脑这种说法很容易被太过解读。。作为研究者，，，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？？？？？
韩芃睿：这是个很好的问题。。做这类研究一个很主要的注重事项，，，，就是不要太过地把 LLM 当人。。随着研究深入，，，，许多实验室确实发明了越来越多 AI 和大脑相似的地方，，，，从行为到机理，，，，这很是令人兴奋。。但不可否认，，，，LLM 和大脑有着根天性的差别，，，，并且它只由语言这一个模态驱动。。
以是我的态度是：LLM 是一个很好的工具，，，，可以拿来磨练假设、去交互、去探测，，，，把它当成一个科学研究工具来研究，，，，这比研究人有更多可控性、也更高效。。但不可盲目。。每一个实验我们都要起劲去分清，，，，这个相似背后真正的泉源是什么。。它可能来自一个真正的原理，，，，也可能只是某些人类数据的假象，，，，或者其他种种因素。。把这些分清，，，，才华让研究更经得起推敲。。
DeepTech：抛开这项详细的研究，，，，在“用 AI 明确智能自己”这个偏向上，，，，你以为最大的挑战是什么？？？？？？
韩芃睿：我以为最大的挑战，，，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。
现在我们缺一套公认的标准，，，，去判断某个 AI 和大脑相似究竟算不算数。。它是两类智能系统面临统一个问题各自收敛出的深层原理，，，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。每一个这样的相似，，，，都需要单独去设计比照、去扫除掉浅层的诠释，，，，才敢说它有意义。。
运营/排版：何晨龙
注：封面/首图由 AI 辅助天生
