人脑的结构并不匀称。。。。。经由漫长的演化，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理，，各自盘踞在皮层相对牢靠的区域，，既分工又协作。。。。。困扰研究职员许久的一个问题是：大脑的功效分区，，事实是任何智能系统都躲不开的必定，，照旧人类演化路上的一个无意？？ ？？
最近，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注，，谜底更倾向于前者。。。。。事实，，大语言模子的来路完全差别。。。。。它没有身体，，也没有履历演化，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。。。。当一个结构云云差别的系统也泛起了这套分工，，它更可能是智能自己的深层纪律，，而不是碳基大脑的无意。。。。。不过作者也审慎地强调，，这只是“证据的指向”，，还谈不上定论。。。。。
这项研究由两位资深学者带队。。。。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko，，她因界定出人脑中专门认真语言的“语言网络”而着名，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖；；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas，，他是 AI 与自然语言处理领域的着名学者。。。。。而研究的第一作者是韩芃睿，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士，，导师是尤佳轩教授；；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会，，曾获 NeurIPS Workshop 最佳论文声誉提名。。。。。
（泉源：Github）
在这项研究中，，团队剖析了六个 24B 到 123B 的主流开源模子，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命，，用电路级要领定位每个使命真正依赖的神经元。。。。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多），，还做了一个很清洁的验证：关掉认真语言的神经元，，模子物理照样推理得对，，只是话说得欠亨顺；；；关掉认真物理的神经元，，句子流通，，却把结论说反了。。。。。这套分工不但是统计上的巧合，，而是有实着实在的因果效力。。。。。
围绕这项研究，，以及它用 AI 明确智能自己的理念，，DeepTech 和韩芃睿举行了一次对话。。。。。
用另一种智能，，回覆一个只有一个样本的问题
DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”，，照旧“生物演化的无意”？？ ？？
韩芃睿：这个问题光靠研究大脑自己很难回覆。。。。。由于我们只有一个样本，，并且生物组织还背着许多和使命无关的约束，，好比能量代谢。。。。。
趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信，，它是被问题自己逼出来的，，而不是无意。。。。。
LLM 给了我们一个全新的时机。。。。。它是另一类智能系统，，走的是完全差别的优化路径，，实质上是在展望下一个词元（next-token prediction）上做梯度下降，，和生物演化很是差别。。。。。同时它又具备许多人类独吞的高级认知能力，，好比明确人类语言、解决重大的数学问题。。。。。以是若是？？ ？？榛 LLM 里也自力泛起了，，那它更可能是任何朝着智能优化的系统都会收敛到的解，，而不是碳基大脑的无意。。。。。这就是我们用 LLM 切进来的焦点念头。。。。。
DeepTech：团队里既有认知科学家 Evelina Fedorenko，，也有 AI 研究者 Jacob Andreas。。。。。这双方看问题的方式很纷歧样，，你们怎么协调这些视角？？ ？？
韩芃睿：着实双方的摩擦比想象中小许多。。。。。由于 Jacob 和 Ev 都研究语言和 AI，，共享了很是多的兴趣和判断，，只是着重纷歧样。。。。。Jacob 会更聚焦在算法这一层。。。。。举个详细的例子：我们最最先用的要领更偏神经科学一点，，直接拿最小比照对（minimal pair）去比激活值，，看哪些神经元在统计上是显著的。。。。。但厥后发明，，这样识别出来的单位没有很好的因果影响，，Jacob 就建议我们换成 patching 这类更严酷的要领，，这直接决议了后面整套流程。。。。。
Ev 这边更在意科学层面的洞见，，好比怎么让使命和脑网络的对应更扎实，，以及我们究竟能磨练哪些真正有意思的假设。。。。。一个稍微偏要领上站不站得住，，一个稍微偏科学上值不值得问，，两个视角着实是互补的，，最后拼在一起，，研究才完整。。。。。
？？ ？？榛，，是“同时解决许多问题”逼出来的
DeepTech：若是用最简朴的一句话概括你们的研究发明，，你会怎么说？？ ？？
韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子，，会自觉长出和人脑相似的？？ ？？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。。。。并且这种分工是有因果效力的：关掉某个域的神经元，，只会破损谁人域的能力。。。。。
DeepTech：你们有一个很直观的效果，，统一类使命用的是重叠的神经元，，差别类使命用的是险些不相关的神经元，，同域重叠是跨域的四倍多。。。。。LLM 为什么会形成这种分工？？ ？？
韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望，，而这种展望经常需要多种推理同时上场。。。。。好比，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模，，社会推理去推死心头，，物理推理去判断作案在物理上是否可能，，而这些还都得息争析句子结构的语言处理交织在一起。。。。。
当多种盘算要在统一个输入上同时运行，，系统就面临一个压力：别让它们相互滋扰。。。。。这个压力有两层。。。。。一层是处理层面，，几种信息要同时体现，，编码就必需相互可分，，否则会撞在一起、相互污染。。。。。另一层是学习层面，，若是差别盘算的神经元混在一起，，刷新一个域的更新就会扰动另一个域，，这就是漫衍式系统里灾难性滋扰的老问题。。。。。
把差别盘算分给差别的神经元，，正好同时解决了这两种滋扰。。。。。以是？？ ？？榛芸赡懿皇潜凰杓频，，而是来自于同时解决许多种问题的压力。。。。。
DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元，，模子推理是对的，，但语法最先蜕化；；；关掉认真物理的神经元，，语法流通，，却把物理结论说反了。。。。。这种形式与内容的疏散，，你会怎么明确？？ ？？
韩芃睿：对，，这正是我们在损伤实验里看到的双疏散（double dissociation），，并且它很是清洁。。。。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。。。。关掉语言神经元，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量，，但语法和词法最先蜕化。。。。。反过来关掉物理神经元，，句子依然通顺流通，，但物理结论说反了。。。。。
这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。。。。它们在统一个输出上协作，，但可以被自力地破损。。。。。这种可疏散性自己，，就是？？ ？？榛钪苯拥男形ぞ。。。。。这着实也和 Ev 之前在人身上的发明很呼应。。。。。好比语言能力严重受损的失语症患者，，他们险些无法明确语言，，却依然能完成很重大的推理、数学和逻辑使命。。。。。
DeepTech：Transformer 没有神经科学的能量价钱，，损失函数也不在乎详细用了几多神经元，，它却照样泛起了？？ ？？榛。。。。。你以为是什么在驱动它？？ ？？
韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元，，比普遍激活省能量，，而给每类使命分一套专属神经元，，正好能实现这种希罕。。。。。但这个压力对我们研究的 LLM 完全不适用。。。。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。。。。？？ ？？杉幢阍圃，，一个显着可识别的、类人的？？ ？？榛橹昭浩鹆。。。。。
这说明，，代谢压力不管在塑造人类皮层时起了多着述用，，它都不是功效特化泛起的须要条件。。。。。那真正在驱动的是什么？？ ？？我们以为一种可能，，就是前面说的那种滋扰压力，，它不需要任何能量价钱就能建设。。。。。
DeepTech：比照实验里，，小模子 GPT-2 做差池这些推理使命，，它只能分出“语言 VS 其他”，，分不出更细的？？ ？？。。。。。你们也提到“？？ ？？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹。。。。。你可以详细诠释一下吗？？ ？？
韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。。。；；；痪浠八，，若是模子基础做差池、或者明确不了某个使命，，它内部就没有一套对的盘算可言，，修补出来的工具自然也没有意义。。。。。GPT-2 的比照正好佐证了这一点。。。。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上，，它做不了大部分推理使命，，效果就只能分出“语言 vs 其他”。。。。。这说明凯时AG框架测的是底层盘算，，而不是数据自己的假象。。。。。
虽然，，我们也认可，，换一套别的要领或者换更简朴的使命，，GPT-2 有可能也展现出某种？？ ？？榛。。。。。以是，，凯时AG发明想强调两点：第一，，我们这个框架测到的是盘算，，而不是数据的假象。。。。。我们还专门做了一个关于语义的比照实验来佐证，，光靠 prompt 的语义相似度是还原不出这个结构的；；；第二，，也正由于这样，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系，，我们更愿意说：模子真正能解题，，是它泛起的条件。。。。。只有能明确、能做对，，才谈得上盘算、才谈得上电路。。。。。
把 LLM 看成“第二种智能系统”来研究
DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。。。。这对研究大脑有什么详细的启示？？ ？？
韩芃睿：LLM 作为一个科学研究工具，，在拥有许多重大行为和能力的同时，，比人脑有更多可控性，，也更容易交互。。。。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么，，这些在人身上要么做不到，，要么价钱极高。。。。。以是它自己就是一个很适合拿来做科学研究的工具，，能帮我们更高效地磨练关于智能和认知的假设。。。。。
对神经科学，，我们有两个挺详细的偏向。。。。。一是展望：凯时AG要领可以从 LLM 出发，，对一个全新的使命会挪用人脑哪个网络天生假设，，再拿去用 fMRI 验证，，即是给脑科学多了一个爆发假设的泉源。。。。。二是研究信息流：差别脑网络之间怎么把信息传给相互，，这在人脑里极难研究，，由于你需要同时具备很高的空间和时间分辨率，，而这个组合在人类神经成像里基本做不到。。。。。但在 LLM 里，，我们能同时会见所有神经元和它们的毗连，，以是可以去构建和磨练一些机制层面的假设，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。。。。
DeepTech：反过来，，你以为这项发明对做 AI 的人有什么用？？ ？？知道模子内部是？？ ？？榛，，能帮我们把模子造得更好或者更可控吗？？ ？？
韩芃睿：最直接的一条，，和现在很火的混淆专家模子（mixture-of-experts，，MoE）有关。。。。。MoE 被接纳主要是出于效率思量，，把每个 token 路由给一部分专家，，能镌汰激活的参数目。。。。。但凯时AG发明提醒，，？？ ？？榛橹约嚎赡芑勾刺亓硗馀趟阌攀，，而不但是省算力。。。。。
已经有事情往这个偏向走了，，好比让专家之间形成类脑的特化，，既保住了推理的性能，，又让模子更可诠释、更可指导。。。。。以是知道模子内部是？？ ？？榛，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。。。。这块还很开放，，值得深挖：？？ ？？榛托阅苤，，究竟是什么关系。。。。。
AI 像大脑，，最怕被太过解读
DeepTech：AI 像大脑这种说法很容易被太过解读。。。。。作为研究者，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？ ？？
韩芃睿：这是个很好的问题。。。。。做这类研究一个很主要的注重事项，，就是不要太过地把 LLM 当人。。。。。随着研究深入，，许多实验室确实发明了越来越多 AI 和大脑相似的地方，，从行为到机理，，这很是令人兴奋。。。。。但不可否认，，LLM 和大脑有着根天性的差别，，并且它只由语言这一个模态驱动。。。。。
以是我的态度是：LLM 是一个很好的工具，，可以拿来磨练假设、去交互、去探测，，把它当成一个科学研究工具来研究，，这比研究人有更多可控性、也更高效。。。。。但不可盲目。。。。。每一个实验我们都要起劲去分清，，这个相似背后真正的泉源是什么。。。。。它可能来自一个真正的原理，，也可能只是某些人类数据的假象，，或者其他种种因素。。。。。把这些分清，，才华让研究更经得起推敲。。。。。
DeepTech：抛开这项详细的研究，，在“用 AI 明确智能自己”这个偏向上，，你以为最大的挑战是什么？？ ？？
韩芃睿：我以为最大的挑战，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。。。。
现在我们缺一套公认的标准，，去判断某个 AI 和大脑相似究竟算不算数。。。。。它是两类智能系统面临统一个问题各自收敛出的深层原理，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。。。。每一个这样的相似，，都需要单独去设计比照、去扫除掉浅层的诠释，，才敢说它有意义。。。。。
运营/排版：何晨龙
注：封面/首图由 AI 辅助天生
