复旦张军平：AI正在进入工业和金融场景，，，但模子界线与风险治理同样要害
克日，，，复旦大学经济学院举行“南土国际金融政策圆桌会第13期”暨“迎接AI时代系列”第2期。。。。。 。本次聚会以“人工智能希望及对金融业的影响与思索”为主题，，，围绕人工智能手艺演进、工业应用场景、金融行业厘革、风险治理与人才作育等问题睁开讨论。。。。。 。复旦大学盘算机与智能立异学院教授、博士生导师张军平在主题报告中指出，，，人工智能并非近期才泛起的新看法，，，而是履历了恒久积累、阶段性低谷和多轮突破的手艺系统。。。。。 。
张军平回首了人工智能从图灵自念头理论、达特茅斯聚会、专家系统、统计机械学习，，，到深度学习、大语言模子和智能体工具的生长脉络。。。。。 。他以为，，，目今人工智能生长的基础主要包括高质量数据、强盛算力和以Transformer为代表的深度学习模子结构。。。。。 。大语言模子实质上仍是基于海量语料举行统计展望，，，通过一连天生token形成回覆。。。。。 。随着大模子能力快速提升，，，自主编程、自主演化和智能体工具一直生长，，，文科和金融学生的编程门槛正在显着降低。。。。。 。
围绕工业应用，，，张军平指出，，，中国在数据资源、工业系统和应用场景方面具有主要优势，，，制造业是人工智能赋能的主要偏向。。。。。 。具身智能、机械人装配、无生齿岸、无人矿车、自动驾驶、故障检测和产品设计等场景，，，正在推感人工智能从看法展示走向真实生产流程。。。。。 。在金融行业中，，，人工智能可以应用于智能营销、智能客服、实时反诓骗、自动化信贷审批、机械人流程自动化、条约审核、合规羁系、智能投研和量化生意等场景。。。。。 。
张军平同时提醒，，，AI进入金融领域必需高度重视本钱、诠释性、数据孤岛和清静风险。。。。。 。大模子训练和推理需要大宗算力，，，深度学习模子往往缺乏足够诠释性，，，差别金融机构之间的数据相互隔离，，，反抗攻击、模子后门、数据投毒和模子幻觉也可能在金融场景中被放大。。。。。 。他强调，，，那些易于被标准化、流程化、程序化的事情更容易被人工智能替换，，，但人工智能并非无所不可，，，人的作用仍然会占一定比重，，，人机混淆将是未来趋势之一，，，而金融行业真正需要的将是营业、科技和数据深度融合的复合型人才。。。。。 。
在现场问答中，，，有同砚就大模子提醒绕开清静规则、人工智能羁系和模子清静界线等问题向张军平讨教。。。。。 。张军平回应指出，，，大模子内部确实保存规则和清静约束，，，但这些规则通过组合后会爆发一些意想不到的路径。。。。。 。有时间，，，用户通过特殊提醒或多轮对话，，，就可能让模子搜索路径爆发转变，，，从而绕开某些限制。。。。。 。张军平以为，，，实质上这仍与组合重大性有关。。。。。 。数据规模太大，，，模子交互方式太多，，，人很难通过穷举方式堵住所有清静误差。。。。。 。纵然是古板网页系统，，，也很难做到完全清静。。。。。 。进入大模子时代后，，，数据量和交互重漂后更高，，，清静挑战也越发突出，，，因此羁系、手艺和应用方都需要一连跟进。。。。。 。
以下为张军平讲话全文（已经自己审定）：
很是兴奋今天来到国金系，，，与各人交流“人工智能希望及对金融业的影响与思索”。。。。。 。我的报告大致分为几个部分：第一，，，回首人工智能生长到现在处于什么阶段；；；第二，，，讨论人工智能对一些行业，，，尤其是制造业和金融投资相关领域的影响；；；第三，，，讨论人工智能在金融应用中可能面临的问题和风险。。。。。 。
人工智能并不是最近才泛起的看法。。。。。 。从1936年图灵提出自念头理论最先，，，到今天已经靠近90年。。。。。 。1956年达特茅斯聚会提出“人工智能”这一名称后，，，人工智能进入首创阶段。。。。。 。谁人时期的人们一度很是乐观，，，由于机械证实、定理证实和跳棋程序都有一些希望，，，甚至有人以为十年左右机械就可能在许多方面战胜人类。。。。。 。但很快，，，由于数据缺乏、盘算能力有限、模子能力缺乏，，，人工智能进入低谷。。。。。 。20世纪70年月，，，Lighthill报告指出人工智能解决不了组合爆炸问题，，，整个领域受到很大攻击。。。。。 。
20世纪80年月以后，，，专家系统推感人工智能重新走向应用。。。。。 。以后很长一段时间，，，统计机械学习成为主流。。。。。 。1997年前后，，，IBM的Deep Blue击败国际象棋天下冠军卡斯帕罗夫，，，使公共再次注重到人工智能的能力。。。。。 。2012年，，，Geoffrey Hinton团队在ImageNet竞赛中以深度学习要领显著凌驾古板要领，，，推感人工智能研究重心转向深度学习。。。。。 。2016年，，，AlphaGo击败李世石，，，则让人们看到人工智能界线正在一直扩大。。。。。 。
对通俗人而言，，，真正感受到人工智能爆发质变，，，大致是从2023年ChatGPT泛起最先。。。。。 。2025年头DeepSeek受到普遍关注，，，也使许多人意识到中国模子与国际前沿的差别并非不可跨越。。。。。 。目今人工智能生长的基本逻辑可以概括为“三板斧”：第一，，，高质量数据；；；第二，，，强盛的GPU并行算力；；；第三，，，以Transformer为代表的深度学习模子结构。。。。。 。大语言模子实质上仍是基于海量语料举行统计展望，，，它把问题转化为一个又一个token的天生历程。。。。。 。
目今大语言模子泛起出两个主要转变。。。。。 。第一，，，种种模子能力快速靠近，，，同质化趋势增强。。。。。 。早期许多模子开源，，，但今年以来头部模子逐渐镌汰开源，，，由于模子自己已经具有商业价值。。。。。 。但即便不开源，，，市场上仍会通过蒸馏等方式学习模子能力，，，这也进一步推动模子之间趋同。。。。。 。第二，，，自主编程、自主演化和智能体工具迅速生长，，，例如Codex、Claude Code、Manus、Openclaw等工具，，，使用户通过自然语言就能天生程序、封装流程和挪用工具。。。。。 。
这类转变对文科和金融学生尤其主要。。。。。 。已往许多使命必需依赖较量强的编程能力，，，现在只要能够清晰形貌使命、设计流程并与模子有用交互，，，就可以借助工具完成相当重大的事情。。。。。 。我曾做过一个上海旅游智能体的例子：给模子提出需求，，，让它搜索上海景点、旅馆和餐饮信息，，，自动天生一日游、两日游、三日游方案，，，并进一步写出程序、README和skill.md，，，把功效封装成可复用的手艺包。。。。。 。以后再次提出类似需求时，，，模子就可以挪用这一手艺。。。。。 。
这说明，，，大语言模子的使用方式正在从古板软件界面转向更简朴的下令行或对话式界面。。。。。 。已往做一个应用需要前端界面、交互设计和大宗编码，，，现在许多基于GUI的使命可以简化为CLI或对话框形式，，，但背后的能力反而显著增强。。。。。 。关于文科学生来说，，，这意味着不必完全成为程序员，，，也可以通过AI工具实现营业流程设计和使命自动化。。。。。 。
从手艺范式看，，，我们正在履历“端到端”的转变。。。。。 。已往进入一个行业做人工智能应用，，，通常需要先明确行业特征，，，再人工设计特征，，，最后结构展望器。。。。。 。现在许多模子只要给定命据和目的，，，就能自动学习特征和映射关系。。。。。 。这在一定水平上降低了对特定行业知识的显性依赖，，，也使人工智能更容易切入各个行业。。。。。 。
国家层面也很是重视“人工智能+”。。。。。 。中国在数据资源、工业系统和应用场景方面具有显着优势，，，因此制造业是人工智能发力的主要领域。。。。。 。制造业的数字化、智能化不但会影响生产流程，，，也会影响金融资源设置。。。。。 。好比具身智能、机械人装配、无生齿岸、无人矿车、自动驾驶、故障检测和产品设计，，，都是人工智能在实体经济中的典范应用。。。。。 。
在具身智能方面，，，我的学生曾加入机械人装置显卡的项目。。。。。 。显卡装置涉及管脚对齐、螺丝定位、线缆毗连等细腻操作，，，要求很高。。。。。 。相比一些演出型机械人，，，这类机械人有潜力真正进入生产流程，，，具有更强的现实价值。。。。。 。类似地，，，洋山港的无人化作业、矿山无人车、都会自动驾驶车辆等，，，都反映了人工智能正在进入真实工业场景。。。。。 。
人工智能也在设计、图像、艺术和内容生产领域显著降低本钱。。。。。 。已往设计logo、海报、证件照、广告视频、短剧或报告PPT，，，都需要专业设计和较高用度；；；现在通过大模子和文生图、文生视频工具，，，可以大幅降低制作门槛。。。。。 。好比实验室logo、吉卜实力概图像、证件照处理、短视频广告等，，，都可以在很短时间内完成。。。。。 。未来许多内容生产环节会爆发转变，，，内容和撒播目的可能比古板意义上的高本钱制作更主要。。。。。 。
企业内部也会泛起大宗垂类智能体，，，包括公司级、行业级、角色级和个人级智能体。。。。。 。这些智能体还可以进一步封装成手艺包，，，成为组织内部可复用的能力？？椤。。。。 。人机协同方面，，，数字人、智能客服、虚拟员工和自动化内容运营都已经在普遍应用。。。。。 。
从金融行业看，，，人工智能可以应用于智能营销、智能客服、实时反诓骗、自动化信贷审批、机械人流程自动化、条约审核、合规羁系、智能投研和量化生意等场景。。。。。 。以智能营销为例，，，若是能够凭证银行卡或消耗数据识别潜在购房贷款客户，，，就可以阻止滥发广告，，，实现更精准的客户触达。。。。。 。以反诓骗为例，，，可以通过微心情识别、行为数据和生意数据发明骗保、骗贷风险。。。。。 。
在量化生意方面，，，我曾与一家私募公司相助过高频生意系统。。。。。 。对方提供由专业职员提取的特征，，，我们用深度学习和强化学习要领寻找股票价钱拐点，，，希望在价钱由下行转向上行时买入，，，在靠近高点时卖出。。。。。 。其时系统在一定样本中取得了高于基准的年化收益，，，也曾在股灾场景中通过高频生意镌汰损失。。。。。 。这个例子说明，，，AI和量化工具可以直接进入投资和生意环节，，，但模子设计、特征结构和风险控制仍很是要害。。。。。 。
不过，，，人工智能进入金融领域也面临几个主要平衡。。。。。 。第一是本钱问题。。。。。 。训练大模子需要大宗算力和电力，，，金融机构是否能够遭受这样的本钱，，，需要认真评估。。。。。 。第二是可诠释性问题。。。。。 。深度学习模子往往诠释性缺乏，，，而金融营业在出问题时必需能够说明原因。。。。。 。第三是数据孤岛问题。。。。。 。银行和金融机构数据相互隔离，，，怎样在；；；ひ私的同时整合数据，，，是联邦学习等手艺希望解决的问题。。。。。 。
同时，，，金融应用还必需提防反抗攻击、开源模子后门、数据投毒和模子幻觉等风险。。。。。 。模子幻觉可以通过RAG等要领缓解，，，但难以完全消除。。。。。 。历史上金融；；；性浩鸸Ｗ蛹偕栉笥玫奈侍，，，例如Copula模子和相关性假设导致风险被低估。。。。。 。进入人工智能时代后，，，类似风险并不会自动消逝，，，甚至可能以更隐藏的方式泛起。。。。。 。
数据清静同样主要。。。。。 。从数据收罗、训练、输出到应用，，，各环节都可能泛起污染、泄露和跨境合规风险。。。。。 。中国对数据跨境很是敏感，，，相关案例也提醒我们，，，金融与出行等高敏感数据一旦涉及跨境和公共清静，，，就必需被纳入羁系框架。。。。。 。
从投资角度看，，，AI公司投资也有两种逻辑。。。。。 。一种是真正看好手艺前进和恒久价值，，，以为产品会越来越有用，，，公司会越来越有价值。。。。。 。另一种则更像讲故事给LP听，，，焦点不是判断AI能否乐成，，，而是判断下一轮估值会不会更高，，，能否把份额卖给厥后者。。。。。 。这两种逻辑需要区分。。。。。 。AI时代财产可能进一步向少数真正懂AI的公司和个人集中，，，他们也会通过种种方式变现。。。。。 。
虽然，，，人工智能不是无所不可。。。。。 。数据量越大，，，越难判断数据有用性。。。。。 。模子可能识别蜕化误相关性，，，例如把雪地配景看成哈士奇和阿拉斯加犬的区别；；；模子也可能保存种族、性别等私见。。。。。 。模子清静同样保存误差，，，人们可以通过绕开规则、改变提醒、结构特殊输入来获取敏感内容或影响输出。。。。。 。大模子并不可穷尽所有风险组合，，，因此清静问题很难被一次性解决。。。。。 。
我经常举一个竹竿进门的例子。。。。。 。一个十米长的竹竿是否能进入高五米、宽四米、深两米的房间，，，大模子可能会凭证公式盘算后说进不去，，，但现实中狗叼着树枝回家，，，可能通过转向、仰面、改变姿势等方式解决问题。。。。。 。这说明，，，人类和动物在自然情形中恒久进化出来的能力，，，有些机械并禁止易掌握。。。。。 。莫拉维克悖论也指出，，，人以为重大的使命，，，机械通过学习和流程化后可能做得很好；；；但人以为简朴、依赖身体和自然履历的能力，，，机械反而很难替换。。。。。 。
因此，，，职业替换并不是线性爆发的。。。。。 。容易被标准化、流程化、程序化的事情更容易被替换，，，而依赖身体履历、重大互动、真实场景和恒久进化能力的事情替换难度更大。。。。。 。金融行业中，，，许多岗位会受到AI影响，，，但未来真正需要的是营业、科技和数据深度融合的复合型人才。。。。。 。
关于年轻人而言，，，未来可能会泛起几种转变：学历较低的年轻人不肯意从事制造业流水线等人类以为简朴但辛勤的事情；；；学历较高的人若是掌握的事情被流程化，，，也可能面临岗位镌汰；；；同时还会泛起AI解读师等新角色，，，资助通俗人明确医疗报告、执法文件、金融报告等专业内容。。。。。 。
我个人以为，，，AI输出的仍是统计意义上的内容。。。。。 。若是你的头脑深度能够凌驾AI，，，它就无法替换你；；；若是你的头脑比AI更粗糙，，，那还不如直接用AI。。。。。 。视角和想象力很是主要。。。。。 。年轻人需要成为“六边形战士”，，，不可只把自己绑定在简单职业上，，，由于我们无法确定未来AI会替换哪些事情。。。。。 。多几个领域选择，，，多一些跨界能力，，，会更清静。。。。。 。
最后简朴先容一下我自己写过的几本书，，，包括《人工智能的界线》《爱犯错的智能体》《人工智能极简史》和关于研究生作育的书《高质量读研》《高质量读研2》。。。。。 。这些写作履历也让我更显着地感受到，，，人工智能时代不是不需要人，，，而是更需要人形成自己的判断、视角和不可替换的能力。。。。。 。我的报告就到这里。。。。。 。
@赵珊慈：www.91.con，，，猫咪一晚抓27只老鼠整齐摆身旁邀功@沈伦龙：安徽将迎大雨到暴雨
@袁涵雄：王鹤棣是真人秀炒作翻车照旧情商低