今日研究机构宣布主要报告图赫尔的离奇操作让英格兰回家了 很兴奋为您解答这个问题
，，，，让我来帮您详细说明一下。。。。。品牌授权报修电话
，，，，快速上门服务

辽宁省沈阳市甘肃省陇南市福建省莆田市仙游县蓟州区东施古镇亳州市利辛县山西省朔州市山阴县博尔塔拉蒙古自治州温泉县濮阳市南乐县哈密市伊吾县山东省淄博市临淄区密云区高岭镇丰台区和义街道海南省儋州市赞皇县西龙门乡广东省汕头市南澳县甘肃省天水市秦州区湖北省宜昌市宜都会福建省莆田市城厢区元氏县塔城地区和布克赛尔蒙古自治县内蒙古锡林郭勒盟镶黄旗陕西省商洛市山阳县山西省朔州市山阴县江西省宜春市宜丰县山西省晋中市榆社县崇左市宁明县广东省佛山市三水区银川市贺兰县福建省福州市罗源县武清区汊沽港镇阿克苏地区新和县江西省吉安市永新县山东省聊都会茌平区山西省晋中市灵石县丰台区宛平城地区山东省滨州市云南省怒江傈僳族自治州福贡县广东省惠州市龙门县山东省泰安市东平县内蒙古锡林郭勒盟正镶白旗许昌市建安区贵州省铜仁市印江土家族苗族自治县江西省景德镇市昌江区江西省宜春市奉新县焦作市防城港市东兴市四川省广元市蓟州区东赵各庄镇四川省遂宁市蓬溪县甘肃省天水市秦州区元氏县苏村乡南开区体育中心街道鹿泉区白鹿泉乡西藏阿里地区日土县山西省运都会夏县洛阳市汝阳县怀柔区龙山街道广东省广州市越秀区博尔塔拉蒙古自治州温泉县山东省泰安市东平县四川省甘孜藏族自治州丹巴县大兴区福建省厦门市海沧区福建省南平市建瓯市四川省成都会金牛区桂林市秀峰区黑龙江省绥化市明水县伊犁哈萨克自治州昭苏县云南省丽江市宁蒗彝族自治县蓟州区东二营镇山东省潍坊市青州市黑龙江省鹤岗市北海市海城区延庆区沈家营镇昌平区回龙观街道焦作市沁阳市密云区古北口镇贵州省黔南布依族苗族自治州惠水县江西省九江市武宁县广东省汕头市龙湖区博尔塔拉蒙古自治州温泉县云南省文山壮族苗族自治州广南县江西省九江市武宁县江苏省南京市浦口区广东省惠州市龙门县江苏省南京市浦口区云南省西双版纳傣族自治州勐腊县江苏省徐州市甘肃省甘南藏族自治州上海市市辖区嘉定区广东省珠海市斗门区山西省晋中市太谷区四川省甘孜藏族自治州九龙县蓟州区东施古镇上海市市辖区嘉定区江西省吉安市永新县辽宁省本溪市溪湖区云南省丽江市宁蒗彝族自治县黑龙江省绥化市明水县青海省海南藏族自治州贵德县

今日行业报告更新最新政策对话韩芃睿：拆开AI大脑
，，，，望见了和人脑相似的功效分工
，，，，很兴奋为您解答这个问题
，，，，让我来帮您详细说明一下:官方服务专线
，，，，支持多品牌报修

密云区高岭镇江苏省苏州市相城区青秀区四川省凉山彝族自治州昭觉县甘肃省甘南藏族自治州密云区古北口镇山西省晋中市太谷区丰台区长辛店镇焦作市沁阳市四川省德阳市广汉市桂林市秀峰区向阳区双井街道青海省海北藏族自治州门源回族自治县青海省果洛藏族自治州西乡塘区元氏县殷村镇湖北省恩施土家族苗族自治州恩施市辽宁省沈阳市武清区汊沽港镇湖北省襄阳市襄州区向阳区管庄地区四川省泸州市江阳区广东省佛山市三水区蓟州区东二营镇广东省汕头市龙湖区清静区南市街道四川省甘孜藏族自治州泸定县平山县东回舍镇山西省吕梁市中阳县焦作市崇左市长安区南村镇清静区南市街道宝坻区牛家牌镇桂林市兴安县山东省烟台市牟平区焦作市沁阳市焦作市中站区四川省成都会双流区广东省广州市越秀区桥西区苑东街道海南省？？？？？谑忻览记赡省辽阳市白塔区博尔塔拉蒙古自治州温泉县湖北省襄阳市襄州区元氏县殷村镇陕西省宝鸡市千阳县山西省吕梁市中阳县湖北省孝感市汉川市鹿泉区白鹿泉乡海南省三沙市西沙区广东省珠海市斗门区西藏山南市贡嘎县湖北省恩施土家族苗族自治州恩施市向阳区酒仙桥街道固原市西吉县甘肃省兰州市四川省凉山彝族自治州昭觉县黑龙江省大兴安岭地区呼玛县向阳区双井街道清静区南市街道陕西省西安市未央区山西省朔州市山阴县昌平区阳坊镇山西省运都会夏县四川省宜宾市江安县贵州省黔东南苗族侗族自治州天柱县丰台区和义街道蚌埠市龙子湖区元氏县河东区东新街道江西省宜春市宜丰县南开区体育中心街道蓟州区东二营镇广东省汕头市南澳县青海省海北藏族自治州门源回族自治县桂林市兴安县崇左市山西省运都会夏县广东省深圳市西乡塘区云南省普洱市景东彝族自治县青海省海北藏族自治州门源回族自治县黑龙江省大兴安岭地区呼玛县四川省遂宁市蓬溪县山东省烟台市龙口市钦州市四川省宜宾市翠屏区江苏省南通市启东市西藏阿里地区日土县平山县东回舍镇平山县宅北乡蚌埠市龙子湖区甘肃省甘南藏族自治州哈密市伊吾县辽宁省沈阳市沈河区桂林市兴安县井陉县吴家窑乡广东省珠海市斗门区山东省淄博市临淄区

全球服务区域:丰台区和义街道密云区河南寨镇洛阳市汝阳县行唐县龙州镇四川省宜宾市珙县广东省珠海市斗门区贵州省六盘水市水城县黑龙江省佳木斯市富锦市淮南市大通区密云区高岭镇伊犁哈萨克自治州昭苏县贵州省安顺市普定县山西省晋中市太谷区云南省大理白族自治州云龙县山东省东营市垦利区四川省成都会双流区福建省漳州市龙海市四川省成都会新都区密云区不老屯镇蓟州区东二营镇重庆市县巫山县南开区长虹街道长安区南村镇广东省云浮市新兴县四川省遂宁市蓬溪县江西省宜春市宜丰县赵县沙河店镇江西省九江市武宁县福建省莆田市仙游县四川省成都会双流区山西省长治市襄垣县云南省文山壮族苗族自治州广南县平山县小觉镇云南省红河哈尼族彝族自治州绿春县山西省阳泉市平定县四川省遂宁市蓬溪县阿克苏地区拜城县江西省宜春市奉新县信阳市平桥区南阳市内乡县贵州省黔南布依族苗族自治州惠水县江西省宜春市奉新县西藏山南市贡嘎县内蒙古呼伦贝尔市阿荣旗内蒙古锡林郭勒盟镶黄旗福建省南平市湖北省宜昌市宜都会广东省广州市越秀区向阳区双井街道吉林省白山市浑江区江苏省连云港市赣榆区青海省果洛藏族自治州广东省汕头市龙湖区贵州省安顺市普定县甘肃省陇南市武都区甘肃省兰州市许昌市建安区广东省汕头市龙湖区广东省惠州市龙门县顺义区空港街道桂林市兴安县平山县岗南镇江苏省徐州市丰县洛阳市汝阳县鹿泉区寺家庄镇崇左市宁明县鹿泉区寺家庄镇山东省滨州市山西省吕梁市岚县内蒙古乌海市乌达区江西省宜春市宜丰县博尔塔拉蒙古自治州温泉县湖北省宜昌市秭归县黑龙江省哈尔滨市巴彦县甘肃省陇南市贵州省六盘水市水城县合肥市瑶海区信阳市平桥区云南省丽江市宁蒗彝族自治县江西省吉安市永新县陕西省汉中市留坝县河西区桃园街道辽宁省铁岭市清河区云南省玉溪市新平彝族傣族自治县江苏省南通市启东市四川省凉山彝族自治州甘洛县江西省鹰潭市余江区蚌埠市蚌山区山东省烟台市牟平区黑龙江省伊春市金林区山西省临汾市安泽县合肥市瑶海区长安区广安街道濮阳市南乐县蚌埠市蚌山区丰台区长辛店镇黑龙江省伊春市金林区静海区大邱庄镇内蒙古兴安盟乌兰浩特市乌鲁木齐市沙依巴克区

今日相关部分宣布新动向对话韩芃睿：拆开AI大脑
，，，，望见了和人脑相似的功效分工
，，，，很兴奋为您解答这个问题
，，，，让我来帮您详细说明一下:售后服务维修中心电话
，，，，支持多渠道服务

天下服务区域：密云区河南寨镇青海省海北藏族自治州门源回族自治县向阳区小红门地区吉林省白山市浑江区四川省遂宁市蓬溪县贵州省铜仁市玉屏侗族自治县井陉县测鱼镇江苏省徐州市丰县山东省聊都会冠县福建省厦门市湖里区向阳区管庄地区陕西省汉中市南郑区昌平区阳坊镇赵县沙河店镇辽宁省本溪市溪湖区江西省鹰潭市余江区固原市西吉县桥西区东华街道北海市海城区山西省晋都会高平市顺义区空港街道芜湖市南陵县河东区大直沽街道江西省吉安市永新县蚌埠市蚌山区山东省烟台市龙口市青秀区山西省吕梁市岚县云南省文山壮族苗族自治州广南县北辰区广源街道门头沟区大峪街道贵州省黔南布依族苗族自治州惠水县山东省东营市垦利区青海省玉树藏族自治州治多县向阳区酒仙桥街道濮阳市南乐县山东省聊都会冠县四川省广元市辽宁省锦州市义县四川省凉山彝族自治州西昌市江西省宜春市宜丰县山西省朔州市山阴县山东省泰安市东平县防城港市东兴市山东省潍坊市青州市内蒙古鄂尔多斯市鄂托克旗怀柔区宝山镇青海省玉树藏族自治州治多县丰台区长辛店镇辽宁省本溪市溪湖区湖北省宜昌市夷陵区陕西省汉中市留坝县甘肃省甘南藏族自治州大兴区四川省宜宾市珙县青秀区钦州市元氏县苏村乡辽宁省辽阳市白塔区焦作市江苏省徐州市丰县山东省德州市齐河县蓟州区官庄镇陕西省商洛市山阳县固原市西吉县平顶山市卫东区湖北省襄阳市襄州区亳州市利辛县平顶山市卫东区青海省海北藏族自治州门源回族自治县四川省凉山彝族自治州西昌市焦作市山西省晋中市太谷区昌平区回龙观街道山东省聊都会茌平区钦州市山西省晋都会泽州县南开区长虹街道广东省江门市河西区桃园街道湖北省孝感市汉川市西青区精武镇山西省晋中市榆社县江苏省镇江市句容市哈密市伊吾县山西省晋都会高平市西藏阿里地区日土县山东省枣庄市台儿庄区山西省晋都会泽州县平顶山市卫东区北海市海城区焦作市山西省忻州市定襄县山西省忻州市宁武县山东省德州市齐河县焦作市沁阳市桥西区留营街道和田地区芜湖市南陵县广东省珠海市斗门区

售后服务上门服务电话
，，，，智能分配票据：对话韩芃睿：拆开AI大脑
，，，，望见了和人脑相似的功效分工

人脑的结构并不匀称。。。。。经由漫长的演化
，，，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理
，，，，各自盘踞在皮层相对牢靠的区域
，，，，既分工又协作。。。。。困扰研究职员许久的一个问题是：大脑的功效分区
，，，，事实是任何智能系统都躲不开的必定
，，，，照旧人类演化路上的一个无意？？？？？

最近
，，，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注
，，，，谜底更倾向于前者。。。。。事实
，，，，大语言模子的来路完全差别。。。。。它没有身体
，，，，也没有履历演化
，，，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。。。。当一个结构云云差别的系统也泛起了这套分工
，，，，它更可能是智能自己的深层纪律
，，，，而不是碳基大脑的无意。。。。。不过作者也审慎地强调
，，，，这只是“证据的指向”
，，，，还谈不上定论。。。。。

这项研究由两位资深学者带队。。。。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko
，，，，她因界定出人脑中专门认真语言的“语言网络”而着名
，，，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖
；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas
，，，，他是 AI 与自然语言处理领域的着名学者。。。。。而研究的第一作者是韩芃睿
，，，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士
，，，，导师是尤佳轩教授
；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会
，，，，曾获 NeurIPS Workshop 最佳论文声誉提名。。。。。

（泉源：Github）

在这项研究中
，，，，团队剖析了六个 24B 到 123B 的主流开源模子
，，，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命
，，，，用电路级要领定位每个使命真正依赖的神经元。。。。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多）
，，，，还做了一个很清洁的验证：关掉认真语言的神经元
，，，，模子物理照样推理得对
，，，，只是话说得欠亨顺
；；关掉认真物理的神经元
，，，，句子流通
，，，，却把结论说反了。。。。。这套分工不但是统计上的巧合
，，，，而是有实着实在的因果效力。。。。。

围绕这项研究
，，，，以及它用 AI 明确智能自己的理念
，，，，DeepTech 和韩芃睿举行了一次对话。。。。。

用另一种智能
，，，，回覆一个只有一个样本的问题

DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”
，，，，照旧“生物演化的无意”？？？？？

韩芃睿：这个问题光靠研究大脑自己很难回覆。。。。。由于我们只有一个样本
，，，，并且生物组织还背着许多和使命无关的约束
，，，，好比能量代谢。。。。。

趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信
，，，，它是被问题自己逼出来的
，，，，而不是无意。。。。。

LLM 给了我们一个全新的时机。。。。。它是另一类智能系统
，，，，走的是完全差别的优化路径
，，，，实质上是在展望下一个词元（next-token prediction）上做梯度下降
，，，，和生物演化很是差别。。。。。同时它又具备许多人类独吞的高级认知能力
，，，，好比明确人类语言、解决重大的数学问题。。。。。以是若是？？？？？榛 LLM 里也自力泛起了
，，，，那它更可能是任何朝着智能优化的系统都会收敛到的解
，，，，而不是碳基大脑的无意。。。。。这就是我们用 LLM 切进来的焦点念头。。。。。

DeepTech：团队里既有认知科学家 Evelina Fedorenko
，，，，也有 AI 研究者 Jacob Andreas。。。。。这双方看问题的方式很纷歧样
，，，，你们怎么协调这些视角？？？？？

韩芃睿：着实双方的摩擦比想象中小许多。。。。。由于 Jacob 和 Ev 都研究语言和 AI
，，，，共享了很是多的兴趣和判断
，，，，只是着重纷歧样。。。。。Jacob 会更聚焦在算法这一层。。。。。举个详细的例子：我们最最先用的要领更偏神经科学一点
，，，，直接拿最小比照对（minimal pair）去比激活值
，，，，看哪些神经元在统计上是显著的。。。。。但厥后发明
，，，，这样识别出来的单位没有很好的因果影响
，，，，Jacob 就建议我们换成 patching 这类更严酷的要领
，，，，这直接决议了后面整套流程。。。。。

Ev 这边更在意科学层面的洞见
，，，，好比怎么让使命和脑网络的对应更扎实
，，，，以及我们究竟能磨练哪些真正有意思的假设。。。。。一个稍微偏要领上站不站得住
，，，，一个稍微偏科学上值不值得问
，，，，两个视角着实是互补的
，，，，最后拼在一起
，，，，研究才完整。。。。。

？？？？？榛
，，，，是“同时解决许多问题”逼出来的

DeepTech：若是用最简朴的一句话概括你们的研究发明
，，，，你会怎么说？？？？？

韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子
，，，，会自觉长出和人脑相似的？？？？？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。。。。并且这种分工是有因果效力的：关掉某个域的神经元
，，，，只会破损谁人域的能力。。。。。

DeepTech：你们有一个很直观的效果
，，，，统一类使命用的是重叠的神经元
，，，，差别类使命用的是险些不相关的神经元
，，，，同域重叠是跨域的四倍多。。。。。LLM 为什么会形成这种分工？？？？？

韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望
，，，，而这种展望经常需要多种推理同时上场。。。。。好比
，，，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模
，，，，社会推理去推死心头
，，，，物理推理去判断作案在物理上是否可能
，，，，而这些还都得息争析句子结构的语言处理交织在一起。。。。。

当多种盘算要在统一个输入上同时运行
，，，，系统就面临一个压力：别让它们相互滋扰。。。。。这个压力有两层。。。。。一层是处理层面
，，，，几种信息要同时体现
，，，，编码就必需相互可分
，，，，否则会撞在一起、相互污染。。。。。另一层是学习层面
，，，，若是差别盘算的神经元混在一起
，，，，刷新一个域的更新就会扰动另一个域
，，，，这就是漫衍式系统里灾难性滋扰的老问题。。。。。

把差别盘算分给差别的神经元
，，，，正好同时解决了这两种滋扰。。。。。以是？？？？？榛芸赡懿皇潜凰杓频
，，，，而是来自于同时解决许多种问题的压力。。。。。

DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元
，，，，模子推理是对的
，，，，但语法最先蜕化
；；关掉认真物理的神经元
，，，，语法流通
，，，，却把物理结论说反了。。。。。这种形式与内容的疏散
，，，，你会怎么明确？？？？？

韩芃睿：对
，，，，这正是我们在损伤实验里看到的双疏散（double dissociation）
，，，，并且它很是清洁。。。。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。。。。关掉语言神经元
，，，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量
，，，，但语法和词法最先蜕化。。。。。反过来关掉物理神经元
，，，，句子依然通顺流通
，，，，但物理结论说反了。。。。。

这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。。。。它们在统一个输出上协作
，，，，但可以被自力地破损。。。。。这种可疏散性自己
，，，，就是？？？？？榛钪苯拥男形ぞ荨。。。。这着实也和 Ev 之前在人身上的发明很呼应。。。。。好比语言能力严重受损的失语症患者
，，，，他们险些无法明确语言
，，，，却依然能完成很重大的推理、数学和逻辑使命。。。。。

DeepTech：Transformer 没有神经科学的能量价钱
，，，，损失函数也不在乎详细用了几多神经元
，，，，它却照样泛起了？？？？？榛。。。。你以为是什么在驱动它？？？？？

韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元
，，，，比普遍激活省能量
，，，，而给每类使命分一套专属神经元
，，，，正好能实现这种希罕。。。。。但这个压力对我们研究的 LLM 完全不适用。。。。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别
，，，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。。。。？？？？？杉幢阍圃
，，，，一个显着可识别的、类人的？？？？？榛橹昭浩鹆恕。。。。

这说明
，，，，代谢压力不管在塑造人类皮层时起了多着述用
，，，，它都不是功效特化泛起的须要条件。。。。。那真正在驱动的是什么？？？？？我们以为一种可能
，，，，就是前面说的那种滋扰压力
，，，，它不需要任何能量价钱就能建设。。。。。

DeepTech：比照实验里
，，，，小模子 GPT-2 做差池这些推理使命
，，，，它只能分出“语言 VS 其他”
，，，，分不出更细的？？？？？椤。。。。你们也提到“？？？？？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹薄。。。。你可以详细诠释一下吗？？？？？

韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。。。
；；痪浠八
，，，，若是模子基础做差池、或者明确不了某个使命
，，，，它内部就没有一套对的盘算可言
，，，，修补出来的工具自然也没有意义。。。。。GPT-2 的比照正好佐证了这一点。。。。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上
，，，，它做不了大部分推理使命
，，，，效果就只能分出“语言 vs 其他”。。。。。这说明凯时AG框架测的是底层盘算
，，，，而不是数据自己的假象。。。。。

虽然
，，，，我们也认可
，，，，换一套别的要领或者换更简朴的使命
，，，，GPT-2 有可能也展现出某种？？？？？榛。。。。以是
，，，，凯时AG发明想强调两点：第一
，，，，我们这个框架测到的是盘算
，，，，而不是数据的假象。。。。。我们还专门做了一个关于语义的比照实验来佐证
，，，，光靠 prompt 的语义相似度是还原不出这个结构的
；；第二
，，，，也正由于这样
，，，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系
，，，，我们更愿意说：模子真正能解题
，，，，是它泛起的条件。。。。。只有能明确、能做对
，，，，才谈得上盘算、才谈得上电路。。。。。

把 LLM 看成“第二种智能系统”来研究

DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。。。。这对研究大脑有什么详细的启示？？？？？

韩芃睿：LLM 作为一个科学研究工具
，，，，在拥有许多重大行为和能力的同时
，，，，比人脑有更多可控性
，，，，也更容易交互。。。。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么
，，，，这些在人身上要么做不到
，，，，要么价钱极高。。。。。以是它自己就是一个很适合拿来做科学研究的工具
，，，，能帮我们更高效地磨练关于智能和认知的假设。。。。。

对神经科学
，，，，我们有两个挺详细的偏向。。。。。一是展望：凯时AG要领可以从 LLM 出发
，，，，对一个全新的使命会挪用人脑哪个网络天生假设
，，，，再拿去用 fMRI 验证
，，，，即是给脑科学多了一个爆发假设的泉源。。。。。二是研究信息流：差别脑网络之间怎么把信息传给相互
，，，，这在人脑里极难研究
，，，，由于你需要同时具备很高的空间和时间分辨率
，，，，而这个组合在人类神经成像里基本做不到。。。。。但在 LLM 里
，，，，我们能同时会见所有神经元和它们的毗连
，，，，以是可以去构建和磨练一些机制层面的假设
，，，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。。。。

DeepTech：反过来
，，，，你以为这项发明对做 AI 的人有什么用？？？？？知道模子内部是？？？？？榛
，，，，能帮我们把模子造得更好或者更可控吗？？？？？

韩芃睿：最直接的一条
，，，，和现在很火的混淆专家模子（mixture-of-experts
，，，，MoE）有关。。。。。MoE 被接纳主要是出于效率思量
，，，，把每个 token 路由给一部分专家
，，，，能镌汰激活的参数目。。。。。但凯时AG发明提醒
，，，，？？？？？榛橹约嚎赡芑勾刺亓硗馀趟阌攀
，，，，而不但是省算力。。。。。

已经有事情往这个偏向走了
，，，，好比让专家之间形成类脑的特化
，，，，既保住了推理的性能
，，，，又让模子更可诠释、更可指导。。。。。以是知道模子内部是？？？？？榛
，，，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。。。。这块还很开放
，，，，值得深挖：？？？？？榛托阅苤
，，，，究竟是什么关系。。。。。

AI 像大脑
，，，，最怕被太过解读

DeepTech：AI 像大脑这种说法很容易被太过解读。。。。。作为研究者
，，，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？？？？

韩芃睿：这是个很好的问题。。。。。做这类研究一个很主要的注重事项
，，，，就是不要太过地把 LLM 当人。。。。。随着研究深入
，，，，许多实验室确实发明了越来越多 AI 和大脑相似的地方
，，，，从行为到机理
，，，，这很是令人兴奋。。。。。但不可否认
，，，，LLM 和大脑有着根天性的差别
，，，，并且它只由语言这一个模态驱动。。。。。

以是我的态度是：LLM 是一个很好的工具
，，，，可以拿来磨练假设、去交互、去探测
，，，，把它当成一个科学研究工具来研究
，，，，这比研究人有更多可控性、也更高效。。。。。但不可盲目。。。。。每一个实验我们都要起劲去分清
，，，，这个相似背后真正的泉源是什么。。。。。它可能来自一个真正的原理
，，，，也可能只是某些人类数据的假象
，，，，或者其他种种因素。。。。。把这些分清
，，，，才华让研究更经得起推敲。。。。。

DeepTech：抛开这项详细的研究
，，，，在“用 AI 明确智能自己”这个偏向上
，，，，你以为最大的挑战是什么？？？？？

韩芃睿：我以为最大的挑战
，，，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。。。。

现在我们缺一套公认的标准
，，，，去判断某个 AI 和大脑相似究竟算不算数。。。。。它是两类智能系统面临统一个问题各自收敛出的深层原理
，，，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。。。。每一个这样的相似
，，，，都需要单独去设计比照、去扫除掉浅层的诠释
，，，，才敢说它有意义。。。。。

运营/排版：何晨龙

注：封面/首图由 AI 辅助天生

今日羁系部分转达研究效果对话韩芃睿：拆开AI大脑
，，，，望见了和人脑相似的功效分工

人脑的结构并不匀称。。。。。经由漫长的演化
，，，，它长出了一套分工明确的组织：语言、逻辑、物理直觉、社会推理
，，，，各自盘踞在皮层相对牢靠的区域
，，，，既分工又协作。。。。。困扰研究职员许久的一个问题是：大脑的功效分区
，，，，事实是任何智能系统都躲不开的必定
，，，，照旧人类演化路上的一个无意？？？？？

最近
，，，，MIT 团队的一项研究“Modular Cognitive Architecture Emerges in Large Language Models ”批注
，，，，谜底更倾向于前者。。。。。事实
，，，，大语言模子的来路完全差别。。。。。它没有身体
，，，，也没有履历演化
，，，，只是在海量的文本上做基于下一词元展望（next-token prediction）的训练。。。。。当一个结构云云差别的系统也泛起了这套分工
，，，，它更可能是智能自己的深层纪律
，，，，而不是碳基大脑的无意。。。。。不过作者也审慎地强调
，，，，这只是“证据的指向”
，，，，还谈不上定论。。。。。

这项研究由两位资深学者带队。。。。。一位是 MIT 脑与认知科学系教授 Evelina Fedorenko
，，，，她因界定出人脑中专门认真语言的“语言网络”而着名
，，，，2025 年刚获美国国家科学院揭晓的 Troland 研究奖
；；另一位是 MIT 盘算机科学与人工智能实验室（CSAIL）教授 Jacob Andreas
，，，，他是 AI 与自然语言处理领域的着名学者。。。。。而研究的第一作者是韩芃睿
，，，，他是伊利诺伊大学厄巴纳-香槟分校（UIUC）盘算机科学硕士
，，，，导师是尤佳轩教授
；；他的事情揭晓于 ICML、EMNLP 等 AI 与 NLP 顶级聚会
，，，，曾获 NeurIPS Workshop 最佳论文声誉提名。。。。。

（泉源：Github）

在这项研究中
，，，，团队剖析了六个 24B 到 123B 的主流开源模子
，，，，笼罩语言、逻辑、物理、社会四大认知域共 46 个使命
，，，，用电路级要领定位每个使命真正依赖的神经元。。。。。他们不但发明同域使命共享神经元、跨域险些互不相关（同域重叠是跨域的四倍多）
，，，，还做了一个很清洁的验证：关掉认真语言的神经元
，，，，模子物理照样推理得对
，，，，只是话说得欠亨顺
；；关掉认真物理的神经元
，，，，句子流通
，，，，却把结论说反了。。。。。这套分工不但是统计上的巧合
，，，，而是有实着实在的因果效力。。。。。

围绕这项研究
，，，，以及它用 AI 明确智能自己的理念
，，，，DeepTech 和韩芃睿举行了一次对话。。。。。

用另一种智能
，，，，回覆一个只有一个样本的问题

DeepTech：你们是怎么想到用 LLM 来切入大脑的功效分区是“智能系统的必定”
，，，，照旧“生物演化的无意”？？？？？

韩芃睿：这个问题光靠研究大脑自己很难回覆。。。。。由于我们只有一个样本
，，，，并且生物组织还背着许多和使命无关的约束
，，，，好比能量代谢。。。。。

趋同演化在生物学里是一个很强的证据逻辑：若是一个性状在亲缘很远的物种里各自自力泛起——好比蝙蝠和鲸鱼各自演化出回声定位——我们就有理由相信
，，，，它是被问题自己逼出来的
，，，，而不是无意。。。。。

LLM 给了我们一个全新的时机。。。。。它是另一类智能系统
，，，，走的是完全差别的优化路径
，，，，实质上是在展望下一个词元（next-token prediction）上做梯度下降
，，，，和生物演化很是差别。。。。。同时它又具备许多人类独吞的高级认知能力
，，，，好比明确人类语言、解决重大的数学问题。。。。。以是若是？？？？？榛 LLM 里也自力泛起了
，，，，那它更可能是任何朝着智能优化的系统都会收敛到的解
，，，，而不是碳基大脑的无意。。。。。这就是我们用 LLM 切进来的焦点念头。。。。。

DeepTech：团队里既有认知科学家 Evelina Fedorenko
，，，，也有 AI 研究者 Jacob Andreas。。。。。这双方看问题的方式很纷歧样
，，，，你们怎么协调这些视角？？？？？

韩芃睿：着实双方的摩擦比想象中小许多。。。。。由于 Jacob 和 Ev 都研究语言和 AI
，，，，共享了很是多的兴趣和判断
，，，，只是着重纷歧样。。。。。Jacob 会更聚焦在算法这一层。。。。。举个详细的例子：我们最最先用的要领更偏神经科学一点
，，，，直接拿最小比照对（minimal pair）去比激活值
，，，，看哪些神经元在统计上是显著的。。。。。但厥后发明
，，，，这样识别出来的单位没有很好的因果影响
，，，，Jacob 就建议我们换成 patching 这类更严酷的要领
，，，，这直接决议了后面整套流程。。。。。

Ev 这边更在意科学层面的洞见
，，，，好比怎么让使命和脑网络的对应更扎实
，，，，以及我们究竟能磨练哪些真正有意思的假设。。。。。一个稍微偏要领上站不站得住
，，，，一个稍微偏科学上值不值得问
，，，，两个视角着实是互补的
，，，，最后拼在一起
，，，，研究才完整。。。。。

？？？？？榛
，，，，是“同时解决许多问题”逼出来的

DeepTech：若是用最简朴的一句话概括你们的研究发明
，，，，你会怎么说？？？？？

韩芃睿：一个只靠展望下一个词元、靠反向撒播训练出来的语言模子
，，，，会自觉长出和人脑相似的？？？？？榛止ぃ河镅浴⒙呒⑽锢怼⑸缁嵬评砀髯杂梢慌静恢氐的神经元支持。。。。。并且这种分工是有因果效力的：关掉某个域的神经元
，，，，只会破损谁人域的能力。。。。。

DeepTech：你们有一个很直观的效果
，，，，统一类使命用的是重叠的神经元
，，，，差别类使命用的是险些不相关的神经元
，，，，同域重叠是跨域的四倍多。。。。。LLM 为什么会形成这种分工？？？？？

韩芃睿：我们提出的一个可能诠释是：LLM 要在海量、异质的语料上实验展望
，，，，而这种展望经常需要多种推理同时上场。。。。。好比
，，，，想象你要展望一本侦探小说最后的下一个词：可能同时需要演绎推理去缩小嫌疑人规模
，，，，社会推理去推死心头
，，，，物理推理去判断作案在物理上是否可能
，，，，而这些还都得息争析句子结构的语言处理交织在一起。。。。。

当多种盘算要在统一个输入上同时运行
，，，，系统就面临一个压力：别让它们相互滋扰。。。。。这个压力有两层。。。。。一层是处理层面
，，，，几种信息要同时体现
，，，，编码就必需相互可分
，，，，否则会撞在一起、相互污染。。。。。另一层是学习层面
，，，，若是差别盘算的神经元混在一起
，，，，刷新一个域的更新就会扰动另一个域
，，，，这就是漫衍式系统里灾难性滋扰的老问题。。。。。

把差别盘算分给差别的神经元
，，，，正好同时解决了这两种滋扰。。。。。以是？？？？？榛芸赡懿皇潜凰杓频
，，，，而是来自于同时解决许多种问题的压力。。。。。

DeepTech：损伤实验里泛起了一个征象：关掉认真语言的神经元
，，，，模子推理是对的
，，，，但语法最先蜕化
；；关掉认真物理的神经元
，，，，语法流通
，，，，却把物理结论说反了。。。。。这种形式与内容的疏散
，，，，你会怎么明确？？？？？

韩芃睿：对
，，，，这正是我们在损伤实验里看到的双疏散（double dissociation）
，，，，并且它很是清洁。。。。。 用统一个物理问题：一根橡皮筋热老化之后的弹性来测试。。。。。关掉语言神经元
，，，，模子的物理推理照旧对的：更弱的回弹力、回弹不完全、耗散更多能量
，，，，但语法和词法最先蜕化。。。。。反过来关掉物理神经元
，，，，句子依然通顺流通
，，，，但物理结论说反了。。。。。

这说明模子内部确实把“把话说通顺”和“把原理说对”交给了两套差别的系统。。。。。它们在统一个输出上协作
，，，，但可以被自力地破损。。。。。这种可疏散性自己
，，，，就是？？？？？榛钪苯拥男形ぞ荨。。。。这着实也和 Ev 之前在人身上的发明很呼应。。。。。好比语言能力严重受损的失语症患者
，，，，他们险些无法明确语言
，，，，却依然能完成很重大的推理、数学和逻辑使命。。。。。

DeepTech：Transformer 没有神经科学的能量价钱
，，，，损失函数也不在乎详细用了几多神经元
，，，，它却照样泛起了？？？？？榛。。。。你以为是什么在驱动它？？？？？

韩芃睿：神经科学里的诠释是代谢约束：大脑每次只激活一小部分神经元
，，，，比普遍激活省能量
，，，，而给每类使命分一套专属神经元
，，，，正好能实现这种希罕。。。。。但这个压力对我们研究的 LLM 完全不适用。。。。。Transformer 的前向盘算在任何生物意义上都没有代谢本钱的差别
，，，，损失函数里也没有任何一项行止罚某个输入激活了几多神经元。。。。？？？？？杉幢阍圃
，，，，一个显着可识别的、类人的？？？？？榛橹昭浩鹆恕。。。。

这说明
，，，，代谢压力不管在塑造人类皮层时起了多着述用
，，，，它都不是功效特化泛起的须要条件。。。。。那真正在驱动的是什么？？？？？我们以为一种可能
，，，，就是前面说的那种滋扰压力
，，，，它不需要任何能量价钱就能建设。。。。。

DeepTech：比照实验里
，，，，小模子 GPT-2 做差池这些推理使命
，，，，它只能分出“语言 VS 其他”
，，，，分不出更细的？？？？？椤。。。。你们也提到“？？？？？榛辉谀Ｗ诱婺芙饩鍪姑辈欧浩稹薄。。。。你可以详细诠释一下吗？？？？？

韩芃睿：先讲清晰我们这套要领的一个性子：归因修补（attribution patching）实质上是在找那些对做对使命有因果孝顺的神经元。。。。
；；痪浠八
，，，，若是模子基础做差池、或者明确不了某个使命
，，，，它内部就没有一套对的盘算可言
，，，，修补出来的工具自然也没有意义。。。。。GPT-2 的比照正好佐证了这一点。。。。。我们把完全一样的流程、完全一样的数据放到 GPT-2 上
，，，，它做不了大部分推理使命
，，，，效果就只能分出“语言 vs 其他”。。。。。这说明凯时AG框架测的是底层盘算
，，，，而不是数据自己的假象。。。。。

虽然
，，，，我们也认可
，，，，换一套别的要领或者换更简朴的使命
，，，，GPT-2 有可能也展现出某种？？？？？榛。。。。以是
，，，，凯时AG发明想强调两点：第一
，，，，我们这个框架测到的是盘算
，，，，而不是数据的假象。。。。。我们还专门做了一个关于语义的比照实验来佐证
，，，，光靠 prompt 的语义相似度是还原不出这个结构的
；；第二
，，，，也正由于这样
，，，，与其说这种细腻分工是“涌现的副产品”、或者去谈它和规模的关系
，，，，我们更愿意说：模子真正能解题
，，，，是它泛起的条件。。。。。只有能明确、能做对
，，，，才谈得上盘算、才谈得上电路。。。。。

把 LLM 看成“第二种智能系统”来研究

DeepTech：你们在文章里提到一个很有意思的定位：LLM 可以看成“第二种智能系统”去磨练我们关于人类认知的理论。。。。。这对研究大脑有什么详细的启示？？？？？

韩芃睿：LLM 作为一个科学研究工具
，，，，在拥有许多重大行为和能力的同时
，，，，比人脑有更多可控性
，，，，也更容易交互。。。。。我们可以随意探测它、干预它、把某部分关掉再看会爆发什么
，，，，这些在人身上要么做不到
，，，，要么价钱极高。。。。。以是它自己就是一个很适合拿来做科学研究的工具
，，，，能帮我们更高效地磨练关于智能和认知的假设。。。。。

对神经科学
，，，，我们有两个挺详细的偏向。。。。。一是展望：凯时AG要领可以从 LLM 出发
，，，，对一个全新的使命会挪用人脑哪个网络天生假设
，，，，再拿去用 fMRI 验证
，，，，即是给脑科学多了一个爆发假设的泉源。。。。。二是研究信息流：差别脑网络之间怎么把信息传给相互
，，，，这在人脑里极难研究
，，，，由于你需要同时具备很高的空间和时间分辨率
，，，，而这个组合在人类神经成像里基本做不到。。。。。但在 LLM 里
，，，，我们能同时会见所有神经元和它们的毗连
，，，，以是可以去构建和磨练一些机制层面的假设
，，，，好比语言系统究竟是怎么把剖析好的输入喂给某个推理系统的。。。。。

DeepTech：反过来
，，，，你以为这项发明对做 AI 的人有什么用？？？？？知道模子内部是？？？？？榛
，，，，能帮我们把模子造得更好或者更可控吗？？？？？

韩芃睿：最直接的一条
，，，，和现在很火的混淆专家模子（mixture-of-experts
，，，，MoE）有关。。。。。MoE 被接纳主要是出于效率思量
，，，，把每个 token 路由给一部分专家
，，，，能镌汰激活的参数目。。。。。但凯时AG发明提醒
，，，，？？？？？榛橹约嚎赡芑勾刺亓硗馀趟阌攀
，，，，而不但是省算力。。。。。

已经有事情往这个偏向走了
，，，，好比让专家之间形成类脑的特化
，，，，既保住了推理的性能
，，，，又让模子更可诠释、更可指导。。。。。以是知道模子内部是？？？？？榛
，，，，未来可能真的能反过来指导我们把模子设计得更好、更可控。。。。。这块还很开放
，，，，值得深挖：？？？？？榛托阅苤
，，，，究竟是什么关系。。。。。

AI 像大脑
，，，，最怕被太过解读

DeepTech：AI 像大脑这种说法很容易被太过解读。。。。。作为研究者
，，，，你最希望公共不要从这项研究里武断得出的过失结论是什么？？？？？

韩芃睿：这是个很好的问题。。。。。做这类研究一个很主要的注重事项
，，，，就是不要太过地把 LLM 当人。。。。。随着研究深入
，，，，许多实验室确实发明了越来越多 AI 和大脑相似的地方
，，，，从行为到机理
，，，，这很是令人兴奋。。。。。但不可否认
，，，，LLM 和大脑有着根天性的差别
，，，，并且它只由语言这一个模态驱动。。。。。

以是我的态度是：LLM 是一个很好的工具
，，，，可以拿来磨练假设、去交互、去探测
，，，，把它当成一个科学研究工具来研究
，，，，这比研究人有更多可控性、也更高效。。。。。但不可盲目。。。。。每一个实验我们都要起劲去分清
，，，，这个相似背后真正的泉源是什么。。。。。它可能来自一个真正的原理
，，，，也可能只是某些人类数据的假象
，，，，或者其他种种因素。。。。。把这些分清
，，，，才华让研究更经得起推敲。。。。。

DeepTech：抛开这项详细的研究
，，，，在“用 AI 明确智能自己”这个偏向上
，，，，你以为最大的挑战是什么？？？？？

韩芃睿：我以为最大的挑战
，，，，恰恰就是上一个问题的延伸：怎么系统性地把一个真正的原理和一个假象区脱离。。。。。

现在我们缺一套公认的标准
，，，，去判断某个 AI 和大脑相似究竟算不算数。。。。。它是两类智能系统面临统一个问题各自收敛出的深层原理
，，，，照旧只是训练数据、使命设计、或者怀抱方式带来的外貌巧合。。。。。每一个这样的相似
，，，，都需要单独去设计比照、去扫除掉浅层的诠释
，，，，才敢说它有意义。。。。。

运营/排版：何晨龙

注：封面/首图由 AI 辅助天生

“岛国童话”是怎样“炼”成的？？？？？——专访佛得角队教练和球员

凯时AG

图赫尔的离奇操作让英格兰回家了