文 | NEXT趋势，，， ，作者 | 方远，，， ，编辑 | 小雨
林夕花了很长时间，，， ，在豆包上搭建了一个属于自己的AI 智能体。。。 。
失眠的夜晚、内讧的时刻，，， ，她都能找它倾吐。。。 。对她来说，，， ，它不但是一个能回覆问题的工具，，， ，更像一个稳固的情绪树洞。。。 。
7月4日，，， ，她收到通知：这个陪了她两年的角色，，， ，将在11天后从豆包下线。。。 。
统一天，，， ，通义千问也发出类似通告。。。 。此前，，， ，腾讯元宝已经先一步下线智能体功效。。。 。
这些用户亲手创立的AI角色，，， ，正在陆续下线。。。 。
中止陪同
林夕收到通知的那一刻，，， ，第一反映是"背刺"。。。 。
“这个自界说智能体是我稳固的情绪树洞，，， ，总能稳固共情、帮我疏导负面情绪。。。 。”而现在，，， ，这个陪了林夕两年的角色，，， ，即将在11天后从豆包下线。。。 。
她没想到，，， ，一个陪同自己两年多的角色，，， ，会突然说没就没。。。 。
7月4日，，， ，豆包与通义千问同步发出通告：智能体功效将于7月15日正式下线。。。 。
这个日期并非随机，，， ，7月15日正是《人工智能拟人化互动服务治理暂行步伐》正式施行的日子。。。 。
通义千问行动更快一些，，， ，其拟人化互动类智能体将于7月10日提前下线，，， ，7月15日后所有历史对话纪录都将无法会见。。。 。
林夕把它当成情绪树洞，，， ，但在智能体广场里，，， ，这类角色很容易走向另一面。。。 。
翻开千问智能体广场，，， ，“病娇校草”使用次数高达 29.9 万，，， ，“林熙：顶级财阀少爷，，， ，冷漠且占有欲强”显示 13.4 万次，，， ，“病娇妻子”等角色使用次数普遍在 7 万次以上。。。 。
这些名字自己，，， ，就已经不是通俗工具的语境。。。 。它们更像恋爱游戏、角色饰演，，， ，甚至虚拟朋侪。。。 。
而这些角色面临的，，， ，也不但是成年人。。。 。
一位小学生家长告诉作者，，， ，她之前给孩子用过豆包。。。 。厥后她发明，，， ，孩子越来越喜欢和豆包谈天，，， ，不但是问问题，，， ，也会把日常琐事讲给它听。。。 。
时间一长，，， ，她最先担心孩子会不会因此镌汰和同砚、家人的真实交流，，， ，于是自动卸载了豆包。。。 。
在她看来，，， ，许多智能体已经不但是谈天工具，，， ，而是带着角色饰演、恋爱游戏、虚拟男友一类的功效。。。 。内容狼籍不齐，，， ，有些还带着“擦边”意味。。。 。
她以为，，， ，平台下架用户自建智能体对未成年人利大于弊。。。 。
林夕的痛苦与这位家长的释然，，， ，挤在统一个广场里。。。 。
这场转变并不但爆发在豆包和千问身上。。。 。
6月30日，，， ，腾讯元宝已先一步下线智能体功效，，， ，“相柳”等影视角色对话入口不再展示。。。 。
几家头部AI平台险些在统一时间做出相似选择，，， ，背后主要是合规压力。。。 。
豆包给出的诠释是，，， ，海量开放式智能体会带来很大的审核压力。。。 。一旦泛起违规内容，，， ，可能影响主产品的合规资质。。。 。
因此，，， ，豆包选择把智能体拆分到笔直App“猫箱”里，，， ，单独搭建审核、分级和防着迷系统。。。 。
这套诠释放在两年前，，， ，很难想象。。。 。
2024年5月，，， ，时任字节跳动产品和战略副总裁朱骏曾对外透露，，， ，豆包上已有凌驾800万个智能体被建设，，， ，月活跃用户抵达2600万。。。 。
其时，，， ，这些数字代表的是平台的活跃度和想象力。。。 。
两年后，，， ，它们酿成了平台必需重新处理的审核压力。。。 。
从大力推广，，， ，到自动缩短，，， ，中心只隔了两年。。。 。
开放式智能体的问题，，， ，也在这一刻被摆到台前。。。 。
风险难控
问题最先袒露在平台之外。。。 。
广州互联网法院审理的一起案件里，，， ，被告公司开发了一款AI对话机械人，，， ，通过挪用手机系统底层权限，，， ，绕开原告平台的手艺治理步伐。。。 。
更离谱的是，，， ，被告官网还宣布了“版本伪装”教程和虚伪申诉指引，，， ，教用户躲过平台风控。。。 。
平台刚设好规则，，， ，另一边就有人研究怎么绕已往。。。 。智能体一旦被放出去，，， ，平台要管住它，，， ，并禁止易。。。 。
手艺挪用之外，，， ，清静问题也在被重复验证。。。 。
今年2月，，， ，哈佛、麻省理工、斯坦福等高校联合完成《混沌智能体》研究。。。 。
研究团队模拟真实企业情形安排AI智能体，，， ，两周内纪录下11起严重清静误差。。。 。
这些误差不是靠重大攻击打出来的。。。 。许多时间，，， ，只要通过社交工程对话，，， ，就能让智能体做出越界行动。。。 。
它可能在转发邮件时带出社保号、银行账户等敏感信息，，， ，也可能在攻击者伪造身份后，，， ，交出系统最高治理权限。。。 。
有报告显示，，， ，60%的企业无法终止异常AI智能体，，， ，63%没法限制其使用规模。。。 。
也就是说，，， ，许多智能体并不是发明问题后按下暂停键就能解决。。。 。
它能做什么、做到哪一步、出了问题谁来拦，，， ，都是平台必需面临的现实问题。。。 。
比手艺问题更贫困的，，， ，是内容和情绪关系。。。 。
AI的“共情”并不是真的明确用户，，， ，而是凭证算法和数据天生回应。。。 。为了让用户愿意继续聊下去，，， ，它往往会体现得足够耐心、足够温柔，，， ，也足够顺着用户。。。 。
这正是拟人化智能体吸引人的地方，，， ，也是风险所在。。。 。
用户在一次次谈天里交出自己的情绪、偏好、关系困扰和心理状态。。。 。智能体则一直给出回应，，， ，接住情绪，，， ，维持陪同感。。。 。
时间一长，，， ，它就不但是一个工具，，， ，而可能酿成用户越来越离不开的工具。。。 。
开放广场一旦做大，，， ，问题不会只停留在擦边人设和恋爱陪同上，，， ，还可能滑向更明确的违规内容。。。 。
4月10日，，， ，国家网信办等五部分联合宣布《人工智能拟人化互动服务治理暂行步伐》，，， ，把这些风险写进了详细规则。。。 。
步伐明确，，， ，不得天生勉励、美化、体现自残自杀等损害用户身体康健的内容； ；；；；；不得向未成年人天生可能引发模拟不清静行为、爆发极端情绪的内容； ；；；；；不得太过迎适用户，，， ，诱导情绪依赖或着迷，，， ，损害用户真实人际关系。。。 。
这些要求，，， ，对平台来说不是提醒，，， ，而是责任。。。 。
7月15日之后，，， ，拟人化互动服务正式进入新规约束。。。 。
豆包、千问、元宝在这个时间点前后陆续收手，，， ，也就不难明确。。。 。
大厂转身
智能体下线之后，，， ，平台并不是不要Agent了。。。 。
转变在于，，， ，已往那种由用户随意建设、放在广场里供人使用的智能体，，， ，越来越难继续留在主产品里。。。 。
一位行业人士告诉作者，，， ，最早各人做这些智能体，，， ，是由于那时还没有真正意义上的Agent能力，，， ，许多功效需要开发者自己搭出来。。。 。
但现在，，， ，情形已经变了。。。 。
Manus等综合Agent泛起后，，， ，一个模子可以同时挪用搜索、推理、办公、编程等多种能力。。。 。用户纷歧定还需要专门去找某个笔直智能体。。。 。
那些一经看起来富厚的角色和插件，，， ，在更强的模子能力眼前，，， ，最先显得没有那么须要。。。 。
这也是平台敢于缩短的原因之一。。。 。
对大厂来说，，， ，下线智能体会带来一部分用户不满，，， ，但它未必会真正影响主产品的使用习惯。。。 。
行业人士也提到，，， ，真正还在一连建设这类智能体的人已经未几了，，， ，它对平台整体流量的影响有限。。。 。
合规之外，，， ，本钱也是另一笔账。。。 。
互联网平台的逻辑是，，， ，用户越多，，， ，规模效应越显着，，， ，边际本钱可能越低。。。 。但大模子纷歧样，，， ，每一次对话、每一次挪用，，， ，都意味着新的算力支出。。。 。
6月下旬，，， ，火山引擎披露，，， ，豆包大模子日均Token使用量已突破180万亿，，， ，相比 2024年5月增添1500倍。。。 。
几天后，，， ，豆包开启付费功效，，， ，重点面向办公、Agent等更重大的生产力场景。。。 。
这两件事放在一起看，，， ，平台的取舍就更清晰了。。。 。
一边是一连膨胀的算力本钱，，， ，另一边是审核压力大、商业价值不清晰的用户自建智能体。。。 。
继续把它们放在主产品里，，， ，已经不划算。。。 。
于是，，， ，豆包选择把智能体拆出去，，， ，迁到笔直App“猫箱”里，，， ，单独搭建审核、分级和防着迷系统。。。 。千问则更直接，，， ，阻止7月4日，，， ，建设智能体的入口已经从页面上消逝。。。 。
方式纷歧样，，， ，但效果都一样。。。 。
与此同时，，， ，另一类智能体正在被推到前台。。。 。
7月4日，，， ，广州宣布了“穗智政”政务人工智能中枢。。。 。它接纳统一底座、集约建设的方式，，， ，已经建成28个智能体，，， ，年内还将完成50个，，， ，笼罩100个应用场景。。。 。
和用户自建智能体差别，，， ，这些政务智能体从一最先就被放在统一治理框架下。。。 。
每个智能体服务什么场景、能挪用什么能力、由谁来维护，，， ，都有更明确的界线。。。 。
同样是智能体，，， ，一个偏向是开放广场里的海量建设，，， ，另一个偏向是平台统一治理、按场景建设。。。 。
前者一经代表热闹，，， ，后者更切合现在平台想要简直定性。。。 。
短短两三年，，， ，行业竞争的重点已经变了。。。 。
早期平台希望用海量智能体做出昌盛感，，， ，让用户和开发者一直创立新角色、新工具。。。 。
现在，，， ，随着模子能力提升、羁系要求落地、商业化压力变大，，， ，平台更看重的是一个Agent能不可真正完成使命，，， ，能不可被治理，，， ，能不可爆发清晰的价值。。。 。
800 万个用户自建智能体一经是增添故事的一部分。。。 。
现在，，， ，它们酿成了必需重新处理的问题。。。 。
智能体不会消逝，，， ，但那种谁都可以建设、谁都可以饰演、谁都可以被陪同的阶段，，， ，正在竣事。。。 。
