出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国
本文是#ESG前进视察#系列第169篇文章
本次视察要害词：供应链治理
克日，，，，，，豆包与千问险些同时宣布下线智能体功效。。。。 。
据果真报道，，，，，，豆包智能体下线后，，，，，，相关功效保存于自力产品“猫箱”；；而千问处理得更彻底，，，，，，直接关闭相关功效且不提供迁徙路径。。。。 。
两家大厂不但处理方式类似，，，，，，时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务治理暂行步伐》正式施行之前，，，，，，步伐提到需对虚拟情人、深度角色饰演、情绪依附类AI设立强约束。。。。 。
因此，，，，，，大厂切掉的并非问答、办公、搜索、代码、事情流这类通用AI能力，，，，，，真正被重新定价的是已往一两年里快速膨胀的关系型智能体：用户自建人设、角色饰演、虚拟情人、情绪陪同、果真分发的智能体广场。。。。 。
一句话总结：智能体没有整体退潮，，，，，，退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增添。。。。 。
在新规之后，，，，，，智能体赛道可能最先分流：使命型智能体继续生长，，，，，，关系型智能体进入强合规时代，，，，，，带情绪陪同功效的AI“情趣”硬件或许率被堵在门外。。。。 。
大厂切割“关系型智能体”
在豆包与千问的行动中，，，，，，值得视察的地方在于“下线的事实是什么”。。。。 。
从平台处理方式看，，，，，，豆包并没有放弃大模子主产品，，，，，，也没有放弃AI助手能力，，，，，，反而选择把高风险互动功效从主App中剥离，，，，，，只在自力产品中存续。。。。 。这一行动的寄义明确：主App要继续肩负公共效率工具、搜索入口、AI助手的角色，，，，，，情绪互动、角色饰演、用户天生智能体这类风险更高的功效，，，，，，则被放到“隔离区”。。。。 。
千问的处理则是直接关闭，，，，，，且不给迁徙路径，，，，，，说明平台对这块营业的判断更冷。。。。 。若是一个非焦点功效带来的审核本钱、羁系压力、舆论风险凌驾营业收益，，，，，，关掉就是最清洁的选择。。。。 。
此次下架行动中两家底层逻辑一致：关系型智能体在大厂主入口里的位置变了。。。。 。已往它能带来互动、时长和用户加入；；现在，，，，，，它最先酿成风险资产。。。。 。
一个值得追问的议题是，，，，，，为什么关停智能体的是豆包、千问？？？？为什么WorkBuddy这类产品看起来没有受到同样攻击？？？？
谜底或许率藏在产品属性里。。。。 。
WorkBuddy这类偏办公、企业协作、事情流的智能体，，，，，，处理的是使命：写文档、做纪要、调流程、跑数据。。。。 。它的主要风险集中在数据权限、企业信息清静、输出准确性和流程责任上；；而关系型智能体处理的是人和拟人工具之间的关系，，，，，，用户完全可以建设一个“AI女友”“AI男友”“病娇妹妹”“霸总朋侪”，，，，，，加上平台再提供广场、推荐、和分享，，，，，，这就从工具酿成了拟人化内容平台，，，，，，风险也就随之放大。。。。 。
首先可能会带来UGC失控。。。。 。用户可以低本钱建设人设、设定语气、关系、头像、开场白，，，，，，再果真宣布。。。。 。供应越富厚，，，，，，审核压力越大。。。。 。此前上海累计下架1.4万个违规智能体，，，，，，就是一个很直接的信号：不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。。。。 。
其次是关系依赖。。。。 。通俗问答助手回覆完就竣事，，，，，，关系型智能体会一连影象、自动体贴、使用亲密称呼、模拟陪同关系。。。。 。用户投入越深，，，，，，产品留存越强，，，，，，付费转化也越容易。。。。 。但在未成年人、心理懦弱人群、孤苦老人等场景里，，，，，，这种黏性很容易越过清静界线。。。。 。
最后是平台分发责任。。。。 。一个用户自己建设、自己使用的智能体，，，，，，风险半径有限；；一旦进入智能体广场、排行榜、搜索页和推荐流，，，，，，平台就加入了放大。。。。 。此时再用“用户自建”诠释责任，，，，，，就有些“无力”了。。。。 。
这就是豆包、千问这类大流量入口最敏感的地方，，，，，，它们做全民AI助手的品牌要求是清洁、可信、普适。。。。 。但主App里若是混入大宗虚拟情人、暧昧陪同、侵权角色、擦边人设，，，，，，一旦被截图撒播，，，，，，损害的会是整个产品的公共信任。。。。 。
豆包和千问的下架行动实质上都是阻止为非焦点场景肩负特殊风险。。。。 。两者都说明，，，，，，大厂已经最先给关系型智能体重新算账。。。。 。
新规把界线画到了产品形态上
新规真正有杀伤力的地方，，，，，，在于它没有停留在“内容审核”层面，，，，，，而是把羁系界线延伸到了服务界说和产品形态。。。。 。
据《人工智能拟人化互动服务治理暂行步伐》第八条指出，，，，，，天生、提供淫秽色情、亲密性模拟交互内容或硬件功效，，，，，，被明确榨取。。。。 。这条规则直击“拟人化关系商业化”的灰色地带。。。。 。
已往许多AI陪同产品会用“情绪”“陪护”“孤苦经济”包装自己。。。。 。外貌上它们提供倾吐、陪同、慰藉，，，，，，现实上增添最强的是更暧昧的部分：不限于亲密称呼、恋爱角色、暧昧对话等。。。。 。用户越投入，，，，，，停留越久；；关系越强，，，，，，付费越容易。。。。 。
关系型智能体把AI从工具酿成关系工具，，，，，，把一次性的使用酿成一连性的陪同。。。。 ；；嵩薄⒔巧ㄒ妗⒏呒赌Ｗ印⒌谰摺⒍┰模，，，，都可以接在这条关系链上。。。。 。
问题也出在这里。。。。 。
当产品最先使用孤苦、亲密需求、情绪懦弱性提高留存和付费，，，，，，羁系关注点就会从“模子有没有说错话”转向“平台有没有制造依赖”。。。。 。若是再叠加未成年人、诱导消耗、色情体现、侵权人设、心理疏导越界，，，，，，风险品级会迅速上升。。。。 。
以是，，，，，，新妄想出的界线可以概括成一句话：情绪陪护可以做，，，，，，把陪护关系性化不可；；拟人化交互可以做，，，，，，用拟人化关系导向情欲消耗不可。。。。 。
从这一角度看，，，，，，对AI硬件公司的压力更大。。。。 。
许多硬件从业者原本以为，，，，，，拟人化互动羁系主要影响谈天App、智能体平台、虚拟陪同软件。。。。 。但新规笼罩的是“拟人化互动服务”，，，，，，硬件只要搭载语音陪同、自动眷注、仿人外观，，，，，，就可能进入羁系视野。。。。 。
尤其是AI陪护机械人、AI宠物、AI玩具、老人陪同终端等。。。。 。这些产品自然会强调陪同感。。。。 。为了提高用户黏性，，，，，，厂商会设计专属称呼、情绪识别、自动问候、影象偏好、拟人语气甚至肢体行动。。。。 。这些设计自己并不必定违规，，，，，，但界线会变得很是敏感。。。。 。
儿童场景涉及未成年人；；ぁ⒎雷琶浴⒓壑倒壑傅肌⒂盏枷牡；；老人场景涉及认知能力下降、康健建议误导、诈骗风险等。。。。 。只要厂商宣传自己提供“陪护”“心理疏导”“情绪宽慰”，，，，，，就不可再把自己简朴界说成卖硬件。。。。 。
更高风险的是“情绪陪同AI+性交互硬件”。。。。 。
成人硬件行业已往有一个显着痛点：一次性消耗多，，，，，，一连留存弱，，，，，，用户关系浅。。。。 。AI给它提供了新的想象空间：让硬件拥有人格、影象和情绪回应，，，，，，把工具酿成“朋侪”，，，，，，再通过订阅、内容、互动剧本实现一连变现。。。。 。
新规直接堵住了这条路。。。。 。
一款产品若是同时具备AI情绪陪同、恒久人格影象、情欲互动算法、仿真性结构或模拟性行为机械结构，，，，，，就很难再被诠释成通俗成人用品或通俗陪护装备。。。。 。它的风险不再是模子无意越界，，，，，，而是产品设计目的自己踩线。。。。 。新规施行后，，，，，，这类产品在清静评估、上市销售、渠道合规上都会遭遇实质障碍。。。。 。
软件产品出问题，，，，，，还能下线入口、调解模子、增添过滤、修改提醒词。。。。 。硬件一旦开模、生产、铺货、上市，，，，，，整改本钱极高。。。。 。产品形态若是已经带着亲密模拟结构，，，，，，合规风险就被固化在装备上。。。。 。
以是AI硬件从业者的压力，，，，，，来自一个更前置的问题：产品界说能不可经得起审查。。。。 。
你究竟是生涯辅助装备，，，，，，照旧虚拟朋侪？？？？收人照护终端，，，，，，照旧借陪护之名包装亲密互动？？？？是情绪支持工具，，，，，，照旧通过人格化关系推动情欲消耗？？？？
这些问题回覆不清，，，，，，产品很难走远。。。。 。
智能体最先分流
一个判断是，，，，，，智能体行业接下来不会整体降温，，，，，，但会显着分层。。。。 。
第一类，，，，，，使命型智能体会继续加速。。。。 。
办公助手、企业知识库、代码智能体、客服助手、聚会纪要、数据剖析助手、流程自动化Agent，，，，，，这些产品解决的是明确使命。。。。 。它们的价值可以用效率、本钱、准确率、响应速率、流程节约来权衡。。。。 。
这类产品的合规重点主要在数据清静、权限控制、企业审计、输出责任。。。。 。它们不会自动制造亲密关系，，，，，，也不依赖用户情绪黏性变现。。。。 。WorkBuddy这类产品能相对平稳，，，，，，原因就在这里。。。。 。
它有风险，，，，，，但风险类型清晰；；它要治理的是“组织怎样清静使用AI”，，，，，，不是“用户是否对一个虚拟人格爆发依赖”。。。。 。
第二类，，，，，，关系型智能体进入强合规时代。。。。 。
AI情人、虚拟男友/女友、情绪陪同、角色饰演、用户自建智能体、智能体广。。。。 。，，，，并不会由于新规直接消逝。。。。 。陪同、倾吐、孤苦缓解、养老辅助、心理支持，，，，，，都是真实需求。。。。 。AI在这些场景里也有价值。。。。 。
但已往那套玩法走欠亨了。。。。 。
开放UGC、擦边人设、低本钱角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖，，，，，，这条链路会越来越难做。。。。 。平台必需补上年岁分级、防着迷、未成年人；；ぁ⒛谌萆蠛恕⒄嫒朔旅爸卫怼⒔巧嫒ㄉ蠛恕⒎缦仗嵝选⒂盏枷南拗啤⑶樾饕览到缦咧卫淼。。。。 。
而这些工具也都会进入本钱表。。。。 。
已往一个小团队接入模子API，，，，，，做一套角色模板，，，，，，加上广场和分享机制，，，，，，很快就能跑出一个陪同产品。。。。 。合规本钱没有显性化时，，，，，，增添故事很好讲。。。。 。一旦审核、投诉、版权、未成年人；；ぁ⑿睦矸缦崭稍ざ寄鸪捎脖厩，，，，许多产品的商业模子会被重新盘算。。。。 。
关系型智能体仍有时机，，，，，，但会从“野放式增添”进入“强界线运营”。。。。 。留下来的，，，，，，不会是最会撩拨情绪的团队，，，，，，而是能把场景、责任和风险讲清晰的团队。。。。 。
第三类，，，，，，“拟人化AI+情欲硬件”会被挤出主流市场。。。。 。
这类产品的问题最尖锐。。。。 。谈天产品偶发越界还能调解，，，，，，硬件产品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来，，，，，，就已经完成磷七风险产品闭环。。。。 。
新规拆掉了许多灰色包装：你不可一边宣称养老陪护、心理疏导、日常陪同，，，，，，一边设计情欲互动算法和性交互硬件；；不可一边享受拟人化关系带来的高黏性，，，，，，一边又把风险藏在“成人自愿使用”的叙事里。。。。 。
这显然会带来一轮行业出清。。。。 。短期内，，，，，，平台会缩短智能体营业，，，，，，整理敏感角色，，，，，，降低情绪陪同功效在主App里的权重；；AI陪同产品会强化分级、审核和提醒；；部分AI硬件项目会推迟上市，，，，，，重新评估外观、交互和功效界线。。。。 。
恒久看，，，，，，智能体行业会回到更清晰的价值框架里：能提高效率的继续做，，，，，，能提供照护的规范做，，，，，，依赖擦边和情欲变现的退出。。。。 。
这也是豆包、千问这次行动给行业的最大信号。。。。 。
它们并没有否认AI应用，，，，，，也没有否认智能体偏向。。。。 。它们只是用产品调解告诉行业：关系型智能体不可再无差别地塞进主入口，，，，，，平台不可继续把高风险互动当成低本钱增添工具。。。。 。
AI行业进入下一阶段后，，，，，，竞争不但看模子能力、入口流量和交互体验，，，，，，还要看合规能力、风控系统和社会信任。。。。 。
已往，，，，，，智能体被想象成一个“什么都能饰演、什么关系都能模拟”的万能入口。。。。 。新规之后，，，，，，这一想象需要重写。。。。 。所谓“智能体离别野蛮生长”，，，，，，说究竟，，，，，，是行业最先为产品界线、用户懦弱性和商业模式付账。。。。 。
本文来自虎嗅，，，，，，原文链接：https://www.huxiu.com/article/4872727.html?f=wyxwapp
