人脑的结构并不匀称。。。经由漫长的演化，，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理，，，各自盘踞在皮层相对牢靠的区域，，，既分工又协作。。。困扰研究职员许久的一个问题是：大脑的功效分区，，，事实是任何智能系统都躲不开的必定，，，照旧人类演化路上的一个无意？？？
最近，，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注，，，谜底更倾向于前者。。。事实，，，大语言模子的来路完全差别。。。它没有身体，，，也没有履历演化，，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。。当一个结构云云差别的系统也泛起了这套分工，，，它更可能是智能自己的深层纪律，，，而不是碳基大脑的无意。。。不过作者也审慎地强调，，，这只是“证据的指向”，，，还谈不上定论。。。
这项研究由两位资深学者带队。。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko，，，她因界定出人脑中专门认真语言的“语言网络”而着名，，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖；；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas，，，他是 AI 与自然语言处理领域的着名学者。。。而研究的第一作者是韩芃睿，，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士，，，导师是尤佳轩教授；；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会，，，曾获 NeurIPS Workshop 最佳论文声誉提名。。。
（泉源：Github）
在这项研究中，，，团队剖析了六个 24B 到 123B 的主流开源模子，，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命，，，用电路级要领定位每个使命真正依赖的神经元。。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多），，，还做了一个很清洁的验证：关掉认真语言的神经元，，，模子物理照样推理得对，，，只是话说得欠亨顺；；；关掉认真物理的神经元，，，句子流通，，，却把结论说反了。。。这套分工不但是统计上的巧合，，，而是有实着实在的因果效力。。。
围绕这项研究，，，以及它用 AI 明确智能自己的理念，，，DeepTech 和韩芃睿举行了一次对话。。。
用另一种智能，，，回覆一个只有一个样本的问题
DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”，，，照旧“生物演化的无意”？？？
韩芃睿：这个问题光靠研究大脑自己很难回覆。。。由于我们只有一个样本，，，并且生物组织还背着许多和使命无关的约束，，，好比能量代谢。。。
趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信，，，它是被问题自己逼出来的，，，而不是无意。。。
LLM 给了我们一个全新的时机。。。它是另一类智能系统，，，走的是完全差别的优化路径，，，实质上是在展望下一个词元（next-token prediction）上做梯度下降，，，和生物演化很是差别。。。同时它又具备许多人类独吞的高级认知能力，，，好比明确人类语言、解决重大的数学问题。。。以是若是模浚？榛 LLM 里也自力泛起了，，，那它更可能是任何朝着智能优化的系统都会收敛到的解，，，而不是碳基大脑的无意。。。这就是我们用 LLM 切进来的焦点念头。。。
DeepTech：团队里既有认知科学家 Evelina Fedorenko，，，也有 AI 研究者 Jacob Andreas。。。这双方看问题的方式很纷歧样，，，你们怎么协调这些视角？？？
韩芃睿：着实双方的摩擦比想象中小许多。。。由于 Jacob 和 Ev 都研究语言和 AI，，，共享了很是多的兴趣和判断，，，只是着重纷歧样。。。Jacob 会更聚焦在算法这一层。。。举个详细的例子：我们最最先用的要领更偏神经科学一点，，，直接拿最小比照对（minimal pair）去比激活值，，，看哪些神经元在统计上是显著的。。。但厥后发明，，，这样识别出来的单位没有很好的因果影响，，，Jacob 就建议我们换成 patching 这类更严酷的要领，，，这直接决议了后面整套流程。。。
Ev 这边更在意科学层面的洞见，，，好比怎么让使命和脑网络的对应更扎实，，，以及我们究竟能磨练哪些真正有意思的假设。。。一个稍微偏要领上站不站得住，，，一个稍微偏科学上值不值得问，，，两个视角着实是互补的，，，最后拼在一起，，，研究才完整。。。
模浚？榛，，，是“同时解决许多问题”逼出来的
DeepTech：若是用最简朴的一句话概括你们的研究发明，，，你会怎么说？？？
韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子，，，会自觉长出和人脑相似的模浚？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。。并且这种分工是有因果效力的：关掉某个域的神经元，，，只会破损谁人域的能力。。。
DeepTech：你们有一个很直观的效果，，，统一类使命用的是重叠的神经元，，，差别类使命用的是险些不相关的神经元，，，同域重叠是跨域的四倍多。。。LLM 为什么会形成这种分工？？？
韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望，，，而这种展望经常需要多种推理同时上场。。。好比，，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模，，，社会推理去推死心头，，，物理推理去判断作案在物理上是否可能，，，而这些还都得息争析句子结构的语言处理交织在一起。。。
当多种盘算要在统一个输入上同时运行，，，系统就面临一个压力：别让它们相互滋扰。。。这个压力有两层。。。一层是处理层面，，，几种信息要同时体现，，，编码就必需相互可分，，，否则会撞在一起、相互污染。。。另一层是学习层面，，，若是差别盘算的神经元混在一起，，，刷新一个域的更新就会扰动另一个域，，，这就是漫衍式系统里灾难性滋扰的老问题。。。
把差别盘算分给差别的神经元，，，正好同时解决了这两种滋扰。。。以是模浚？榛芸赡懿皇潜凰杓频，，，而是来自于同时解决许多种问题的压力。。。
DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元，，，模子推理是对的，，，但语法最先蜕化；；；关掉认真物理的神经元，，，语法流通，，，却把物理结论说反了。。。这种形式与内容的疏散，，，你会怎么明确？？？
韩芃睿：对，，，这正是我们在损伤实验里看到的双疏散（double dissociation），，，并且它很是清洁。。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。。关掉语言神经元，，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量，，，但语法和词法最先蜕化。。。反过来关掉物理神经元，，，句子依然通顺流通，，，但物理结论说反了。。。
这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。。它们在统一个输出上协作，，，但可以被自力地破损。。。这种可疏散性自己，，，就是模浚？榛钪苯拥男形ぞ荨。。这着实也和 Ev 之前在人身上的发明很呼应。。。好比语言能力严重受损的失语症患者，，，他们险些无法明确语言，，，却依然能完成很重大的推理、数学和逻辑使命。。。
DeepTech：Transformer 没有神经科学的能量价钱，，，损失函数也不在乎详细用了几多神经元，，，它却照样泛起了模浚？榛。。你以为是什么在驱动它？？？
韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元，，，比普遍激活省能量，，，而给每类使命分一套专属神经元，，，正好能实现这种希罕。。。但这个压力对我们研究的 LLM 完全不适用。。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别，，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。。。浚？杉幢阍圃，，，一个显着可识别的、类人的模浚？榛橹昭浩鹆恕。。
这说明，，，代谢压力不管在塑造人类皮层时起了多着述用，，，它都不是功效特化泛起的须要条件。。。那真正在驱动的是什么？？？我们以为一种可能，，，就是前面说的那种滋扰压力，，，它不需要任何能量价钱就能建设。。。
DeepTech：比照实验里，，，小模子 GPT-2 做差池这些推理使命，，，它只能分出“语言 VS 其他”，，，分不出更细的模浚？椤。。你们也提到“模浚？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹薄。。你可以详细诠释一下吗？？？
韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。；；；痪浠八，，，若是模子基础做差池、或者明确不了某个使命，，，它内部就没有一套对的盘算可言，，，修补出来的工具自然也没有意义。。。GPT-2 的比照正好佐证了这一点。。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上，，，它做不了大部分推理使命，，，效果就只能分出“语言 vs 其他”。。。这说明凯时AG框架测的是底层盘算，，，而不是数据自己的假象。。。
虽然，，，我们也认可，，，换一套别的要领或者换更简朴的使命，，，GPT-2 有可能也展现出某种模浚？榛。。以是，，，凯时AG发明想强调两点：第一，，，我们这个框架测到的是盘算，，，而不是数据的假象。。。我们还专门做了一个关于语义的比照实验来佐证，，，光靠 prompt 的语义相似度是还原不出这个结构的；；；第二，，，也正由于这样，，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系，，，我们更愿意说：模子真正能解题，，，是它泛起的条件。。。只有能明确、能做对，，，才谈得上盘算、才谈得上电路。。。
把 LLM 看成“第二种智能系统”来研究
DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。。这对研究大脑有什么详细的启示？？？
韩芃睿：LLM 作为一个科学研究工具，，，在拥有许多重大行为和能力的同时，，，比人脑有更多可控性，，，也更容易交互。。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么，，，这些在人身上要么做不到，，，要么价钱极高。。。以是它自己就是一个很适合拿来做科学研究的工具，，，能帮我们更高效地磨练关于智能和认知的假设。。。
对神经科学，，，我们有两个挺详细的偏向。。。一是展望：凯时AG要领可以从 LLM 出发，，，对一个全新的使命会挪用人脑哪个网络天生假设，，，再拿去用 fMRI 验证，，，即是给脑科学多了一个爆发假设的泉源。。。二是研究信息流：差别脑网络之间怎么把信息传给相互，，，这在人脑里极难研究，，，由于你需要同时具备很高的空间和时间分辨率，，，而这个组合在人类神经成像里基本做不到。。。但在 LLM 里，，，我们能同时会见所有神经元和它们的毗连，，，以是可以去构建和磨练一些机制层面的假设，，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。。
DeepTech：反过来，，，你以为这项发明对做 AI 的人有什么用？？？知道模子内部是模浚？榛，，，能帮我们把模子造得更好或者更可控吗？？？
韩芃睿：最直接的一条，，，和现在很火的混淆专家模子（mixture-of-experts，，，MoE）有关。。。MoE 被接纳主要是出于效率思量，，，把每个 token 路由给一部分专家，，，能镌汰激活的参数目。。。但凯时AG发明提醒，，，模浚？榛橹约嚎赡芑勾刺亓硗馀趟阌攀，，，而不但是省算力。。。
已经有事情往这个偏向走了，，，好比让专家之间形成类脑的特化，，，既保住了推理的性能，，，又让模子更可诠释、更可指导。。。以是知道模子内部是模浚？榛，，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。。这块还很开放，，，值得深挖：模浚？榛托阅苤，，，究竟是什么关系。。。
AI 像大脑，，，最怕被太过解读
DeepTech：AI 像大脑这种说法很容易被太过解读。。。作为研究者，，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？？
韩芃睿：这是个很好的问题。。。做这类研究一个很主要的注重事项，，，就是不要太过地把 LLM 当人。。。随着研究深入，，，许多实验室确实发明了越来越多 AI 和大脑相似的地方，，，从行为到机理，，，这很是令人兴奋。。。但不可否认，，，LLM 和大脑有着根天性的差别，，，并且它只由语言这一个模态驱动。。。
以是我的态度是：LLM 是一个很好的工具，，，可以拿来磨练假设、去交互、去探测，，，把它当成一个科学研究工具来研究，，，这比研究人有更多可控性、也更高效。。。但不可盲目。。。每一个实验我们都要起劲去分清，，，这个相似背后真正的泉源是什么。。。它可能来自一个真正的原理，，，也可能只是某些人类数据的假象，，，或者其他种种因素。。。把这些分清，，，才华让研究更经得起推敲。。。
DeepTech：抛开这项详细的研究，，，在“用 AI 明确智能自己”这个偏向上，，，你以为最大的挑战是什么？？？
韩芃睿：我以为最大的挑战，，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。。
现在我们缺一套公认的标准，，，去判断某个 AI 和大脑相似究竟算不算数。。。它是两类智能系统面临统一个问题各自收敛出的深层原理，，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。。每一个这样的相似，，，都需要单独去设计比照、去扫除掉浅层的诠释，，，才敢说它有意义。。。
运营/排版：何晨龙
注：封面/首图由 AI 辅助天生
