出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国
本文是#ESG前进视察#系列第169篇文章
本次视察要害词：供应链治理
克日，，，，，豆包与千问险些同时宣布下线智能体功效。。。。。
据果真报道，，，，，豆包智能体下线后，，，，，相关功效保存于自力产品“猫箱” ；；；；；；而千问处理得更彻底，，，，，直接关闭相关功效且不提供迁徙路径。。。。。
两家大厂不但处理方式类似，，，，，时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务治理暂行步伐》正式施行之前，，，，，步伐提到需对虚拟情人、深度角色饰演、情绪依附类AI设立强约束。。。。。
因此，，，，，大厂切掉的并非问答、办公、搜索、代码、事情流这类通用AI能力，，，，，真正被重新定价的是已往一两年里快速膨胀的关系型智能体：用户自建人设、角色饰演、虚拟情人、情绪陪同、果真分发的智能体广场。。。。。
一句话总结：智能体没有整体退潮，，，，，退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增添。。。。。
在新规之后，，，，，智能体赛道可能最先分流：使命型智能体继续生长，，，，，关系型智能体进入强合规时代，，，，，带情绪陪同功效的AI“情趣”硬件或许率被堵在门外。。。。。
大厂切割“关系型智能体”
在豆包与千问的行动中，，，，，值得视察的地方在于“下线的事实是什么”。。。。。
从平台处理方式看，，，，，豆包并没有放弃大模子主产品，，，，，也没有放弃AI助手能力，，，，，反而选择把高风险互动功效从主App中剥离，，，，，只在自力产品中存续。。。。。这一行动的寄义明确：主App要继续肩负公共效率工具、搜索入口、AI助手的角色，，，，，情绪互动、角色饰演、用户天生智能体这类风险更高的功效，，，，，则被放到“隔离区”。。。。。
千问的处理则是直接关闭，，，，，且不给迁徙路径，，，，，说明平台对这块营业的判断更冷。。。。。若是一个非焦点功效带来的审核本钱、羁系压力、舆论风险凌驾营业收益，，，，，关掉就是最清洁的选择。。。。。
此次下架行动中两家底层逻辑一致：关系型智能体在大厂主入口里的位置变了。。。。。已往它能带来互动、时长和用户加入 ；；；；；；现在，，，，，它最先酿成风险资产。。。。。
一个值得追问的议题是，，，，，为什么关停智能体的是豆包、千问？？？？？？为什么WorkBuddy这类产品看起来没有受到同样攻击？？？？？？
谜底或许率藏在产品属性里。。。。。
WorkBuddy这类偏办公、企业协作、事情流的智能体，，，，，处理的是使命：写文档、做纪要、调流程、跑数据。。。。。它的主要风险集中在数据权限、企业信息清静、输出准确性和流程责任上 ；；；；；；而关系型智能体处理的是人和拟人工具之间的关系，，，，，用户完全可以建设一个“AI女友”“AI男友”“病娇妹妹”“霸总朋侪”，，，，，加上平台再提供广场、推荐、和分享，，，，，这就从工具酿成了拟人化内容平台，，，，，风险也就随之放大。。。。。
首先可能会带来UGC失控。。。。。用户可以低本钱建设人设、设定语气、关系、头像、开场白，，，，，再果真宣布。。。。。供应越富厚，，，，，审核压力越大。。。。。此前上海累计下架1.4万个违规智能体，，，，，就是一个很直接的信号：不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。。。。。
其次是关系依赖。。。。。通俗问答助手回覆完就竣事，，，，，关系型智能体会一连影象、自动体贴、使用亲密称呼、模拟陪同关系。。。。。用户投入越深，，，，，产品留存越强，，，，，付费转化也越容易。。。。。但在未成年人、心理懦弱人群、孤苦老人等场景里，，，，，这种黏性很容易越过清静界线。。。。。
最后是平台分发责任。。。。。一个用户自己建设、自己使用的智能体，，，，，风险半径有限 ；；；；；；一旦进入智能体广场、排行榜、搜索页和推荐流，，，，，平台就加入了放大。。。。。此时再用“用户自建”诠释责任，，，，，就有些“无力”了。。。。。
这就是豆包、千问这类大流量入口最敏感的地方，，，，，它们做全民AI助手的品牌要求是清洁、可信、普适。。。。。但主App里若是混入大宗虚拟情人、暧昧陪同、侵权角色、擦边人设，，，，，一旦被截图撒播，，，，，损害的会是整个产品的公共信任。。。。。
豆包和千问的下架行动实质上都是阻止为非焦点场景肩负特殊风险。。。。。两者都说明，，，，，大厂已经最先给关系型智能体重新算账。。。。。
新规把界线画到了产品形态上
新规真正有杀伤力的地方，，，，，在于它没有停留在“内容审核”层面，，，，，而是把羁系界线延伸到了服务界说和产品形态。。。。。
据《人工智能拟人化互动服务治理暂行步伐》第八条指出，，，，，天生、提供淫秽色情、亲密性模拟交互内容或硬件功效，，，，，被明确榨取。。。。。这条规则直击“拟人化关系商业化”的灰色地带。。。。。
已往许多AI陪同产品会用“情绪”“陪护”“孤苦经济”包装自己。。。。。外貌上它们提供倾吐、陪同、慰藉，，，，，现实上增添最强的是更暧昧的部分：不限于亲密称呼、恋爱角色、暧昧对话等。。。。。用户越投入，，，，，停留越久 ；；；；；；关系越强，，，，，付费越容易。。。。。
关系型智能体把AI从工具酿成关系工具，，，，，把一次性的使用酿成一连性的陪同。。。。 ；；；；；；嵩薄⒔巧ㄒ妗⒏呒赌Ｗ印⒌谰摺⒍┰，，，，，都可以接在这条关系链上。。。。。
问题也出在这里。。。。。
当产品最先使用孤苦、亲密需求、情绪懦弱性提高留存和付费，，，，，羁系关注点就会从“模子有没有说错话”转向“平台有没有制造依赖”。。。。。若是再叠加未成年人、诱导消耗、色情体现、侵权人设、心理疏导越界，，，，，风险品级会迅速上升。。。。。
以是，，，，，新妄想出的界线可以概括成一句话：情绪陪护可以做，，，，，把陪护关系性化不可 ；；；；；；拟人化交互可以做，，，，，用拟人化关系导向情欲消耗不可。。。。。
从这一角度看，，，，，对AI硬件公司的压力更大。。。。。
许多硬件从业者原本以为，，，，，拟人化互动羁系主要影响谈天App、智能体平台、虚拟陪同软件。。。。。但新规笼罩的是“拟人化互动服务”，，，，，硬件只要搭载语音陪同、自动眷注、仿人外观，，，，，就可能进入羁系视野。。。。。
尤其是AI陪护机械人、AI宠物、AI玩具、老人陪同终端等。。。。。这些产品自然会强调陪同感。。。。。为了提高用户黏性，，，，，厂商会设计专属称呼、情绪识别、自动问候、影象偏好、拟人语气甚至肢体行动。。。。。这些设计自己并不必定违规，，，，，但界线会变得很是敏感。。。。。
儿童场景涉及未成年人 ；；；；；；ぁ⒎雷琶浴⒓壑倒壑傅肌⒂盏枷牡 ；；；；；；老人场景涉及认知能力下降、康健建议误导、诈骗风险等。。。。。只要厂商宣传自己提供“陪护”“心理疏导”“情绪宽慰”，，，，，就不可再把自己简朴界说成卖硬件。。。。。
更高风险的是“情绪陪同AI+性交互硬件”。。。。。
成人硬件行业已往有一个显着痛点：一次性消耗多，，，，，一连留存弱，，，，，用户关系浅。。。。。AI给它提供了新的想象空间：让硬件拥有人格、影象和情绪回应，，，，，把工具酿成“朋侪”，，，，，再通过订阅、内容、互动剧本实现一连变现。。。。。
新规直接堵住了这条路。。。。。
一款产品若是同时具备AI情绪陪同、恒久人格影象、情欲互动算法、仿真性结构或模拟性行为机械结构，，，，，就很难再被诠释成通俗成人用品或通俗陪护装备。。。。。它的风险不再是模子无意越界，，，，，而是产品设计目的自己踩线。。。。。新规施行后，，，，，这类产品在清静评估、上市销售、渠道合规上都会遭遇实质障碍。。。。。
软件产品出问题，，，，，还能下线入口、调解模子、增添过滤、修改提醒词。。。。。硬件一旦开模、生产、铺货、上市，，，，，整改本钱极高。。。。。产品形态若是已经带着亲密模拟结构，，，，，合规风险就被固化在装备上。。。。。
以是AI硬件从业者的压力，，，，，来自一个更前置的问题：产品界说能不可经得起审查。。。。。
你究竟是生涯辅助装备，，，，，照旧虚拟朋侪？？？？？？收人照护终端，，，，，照旧借陪护之名包装亲密互动？？？？？？是情绪支持工具，，，，，照旧通过人格化关系推动情欲消耗？？？？？？
这些问题回覆不清，，，，，产品很难走远。。。。。
智能体最先分流
一个判断是，，，，，智能体行业接下来不会整体降温，，，，，但会显着分层。。。。。
第一类，，，，，使命型智能体会继续加速。。。。。
办公助手、企业知识库、代码智能体、客服助手、聚会纪要、数据剖析助手、流程自动化Agent，，，，，这些产品解决的是明确使命。。。。。它们的价值可以用效率、本钱、准确率、响应速率、流程节约来权衡。。。。。
这类产品的合规重点主要在数据清静、权限控制、企业审计、输出责任。。。。。它们不会自动制造亲密关系，，，，，也不依赖用户情绪黏性变现。。。。。WorkBuddy这类产品能相对平稳，，，，，原因就在这里。。。。。
它有风险，，，，，但风险类型清晰 ；；；；；；它要治理的是“组织怎样清静使用AI”，，，，，不是“用户是否对一个虚拟人格爆发依赖”。。。。。
第二类，，，，，关系型智能体进入强合规时代。。。。。
AI情人、虚拟男友/女友、情绪陪同、角色饰演、用户自建智能体、智能体广场，，，，，并不会由于新规直接消逝。。。。。陪同、倾吐、孤苦缓解、养老辅助、心理支持，，，，，都是真实需求。。。。。AI在这些场景里也有价值。。。。。
但已往那套玩法走欠亨了。。。。。
开放UGC、擦边人设、低本钱角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖，，，，，这条链路会越来越难做。。。。。平台必需补上年岁分级、防着迷、未成年人 ；；；；；；ぁ⒛谌萆蠛恕⒄嫒朔旅爸卫怼⒔巧嫒ㄉ蠛恕⒎缦仗嵝选⒂盏枷南拗啤⑶樾饕览到缦咧卫淼取。。。。
而这些工具也都会进入本钱表。。。。。
已往一个小团队接入模子API，，，，，做一套角色模板，，，，，加上广场和分享机制，，，，，很快就能跑出一个陪同产品。。。。。合规本钱没有显性化时，，，，，增添故事很好讲。。。。。一旦审核、投诉、版权、未成年人 ；；；；；；ぁ⑿睦矸缦崭稍ざ寄鸪捎脖厩，，，，，许多产品的商业模子会被重新盘算。。。。。
关系型智能体仍有时机，，，，，但会从“野放式增添”进入“强界线运营”。。。。。留下来的，，，，，不会是最会撩拨情绪的团队，，，，，而是能把场景、责任和风险讲清晰的团队。。。。。
第三类，，，，，“拟人化AI+情欲硬件”会被挤出主流市场。。。。。
这类产品的问题最尖锐。。。。。谈天产品偶发越界还能调解，，，，，硬件产品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来，，，，，就已经完成磷七风险产品闭环。。。。。
新规拆掉了许多灰色包装：你不可一边宣称养老陪护、心理疏导、日常陪同，，，，，一边设计情欲互动算法和性交互硬件 ；；；；；；不可一边享受拟人化关系带来的高黏性，，，，，一边又把风险藏在“成人自愿使用”的叙事里。。。。。
这显然会带来一轮行业出清。。。。。短期内，，，，，平台会缩短智能体营业，，，，，整理敏感角色，，，，，降低情绪陪同功效在主App里的权重 ；；；；；；AI陪同产品会强化分级、审核和提醒 ；；；；；；部分AI硬件项目会推迟上市，，，，，重新评估外观、交互和功效界线。。。。。
恒久看，，，，，智能体行业会回到更清晰的价值框架里：能提高效率的继续做，，，，，能提供照护的规范做，，，，，依赖擦边和情欲变现的退出。。。。。
这也是豆包、千问这次行动给行业的最大信号。。。。。
它们并没有否认AI应用，，，，，也没有否认智能体偏向。。。。。它们只是用产品调解告诉行业：关系型智能体不可再无差别地塞进主入口，，，，，平台不可继续把高风险互动当成低本钱增添工具。。。。。
AI行业进入下一阶段后，，，，，竞争不但看模子能力、入口流量和交互体验，，，，，还要看合规能力、风控系统和社会信任。。。。。
已往，，，，，智能体被想象成一个“什么都能饰演、什么关系都能模拟”的万能入口。。。。。新规之后，，，，，这一想象需要重写。。。。。所谓“智能体离别野蛮生长”，，，，，说究竟，，，，，是行业最先为产品界线、用户懦弱性和商业模式付账。。。。。
本文来自虎嗅，，，，，原文链接：https://www.huxiu.com/article/4872727.html?f=wyxwapp
