出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国
本文是#ESG前进视察#系列第169篇文章
本次视察要害词：供应链治理
克日，，，豆包与千问险些同时宣布下线智能体功效 。。。。。。
据果真报道，，，豆包智能体下线后，，，相关功效保存于自力产品“猫箱”；；；；而千问处理得更彻底，，，直接关闭相关功效且不提供迁徙路径 。。。。。。
两家大厂不但处理方式类似，，，时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务治理暂行步伐》正式施行之前，，，步伐提到需对虚拟情人、深度角色饰演、情绪依附类AI设立强约束 。。。。。。
因此，，，大厂切掉的并非问答、办公、搜索、代码、事情流这类通用AI能力，，，真正被重新定价的是已往一两年里快速膨胀的关系型智能体：用户自建人设、角色饰演、虚拟情人、情绪陪同、果真分发的智能体广场 。。。。。。
一句话总结：智能体没有整体退潮，，，退潮的是低门槛UGC、情绪依赖和灰色亲密互动撑起来的那部分增添 。。。。。。
在新规之后，，，智能体赛道可能最先分流：使命型智能体继续生长，，，关系型智能体进入强合规时代，，，带情绪陪同功效的AI“情趣”硬件或许率被堵在门外 。。。。。。
大厂切割“关系型智能体”
在豆包与千问的行动中，，，值得视察的地方在于“下线的事实是什么” 。。。。。。
从平台处理方式看，，，豆包并没有放弃大模子主产品，，，也没有放弃AI助手能力，，，反而选择把高风险互动功效从主App中剥离，，，只在自力产品中存续 。。。。。。这一行动的寄义明确：主App要继续肩负公共效率工具、搜索入口、AI助手的角色，，，情绪互动、角色饰演、用户天生智能体这类风险更高的功效，，，则被放到“隔离区” 。。。。。。
千问的处理则是直接关闭，，，且不给迁徙路径，，，说明平台对这块营业的判断更冷 。。。。。。若是一个非焦点功效带来的审核本钱、羁系压力、舆论风险凌驾营业收益，，，关掉就是最清洁的选择 。。。。。。
此次下架行动中两家底层逻辑一致：关系型智能体在大厂主入口里的位置变了 。。。。。。已往它能带来互动、时长和用户加入；；；；现在，，，它最先酿成风险资产 。。。。。。
一个值得追问的议题是，，，为什么关停智能体的是豆包、千问？？？？为什么WorkBuddy这类产品看起来没有受到同样攻击？？？？
谜底或许率藏在产品属性里 。。。。。。
WorkBuddy这类偏办公、企业协作、事情流的智能体，，，处理的是使命：写文档、做纪要、调流程、跑数据 。。。。。。它的主要风险集中在数据权限、企业信息清静、输出准确性和流程责任上；；；；而关系型智能体处理的是人和拟人工具之间的关系，，，用户完全可以建设一个“AI女友”“AI男友”“病娇妹妹”“霸总朋侪”，，，加上平台再提供广场、推荐、和分享，，，这就从工具酿成了拟人化内容平台，，，风险也就随之放大 。。。。。。
首先可能会带来UGC失控 。。。。。。用户可以低本钱建设人设、设定语气、关系、头像、开场白，，，再果真宣布 。。。。。。供应越富厚，，，审核压力越大 。。。。。。此前上海累计下架1.4万个违规智能体，，，就是一个很直接的信号：不加管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动 。。。。。。
其次是关系依赖 。。。。。。通俗问答助手回覆完就竣事，，，关系型智能体会一连影象、自动体贴、使用亲密称呼、模拟陪同关系 。。。。。。用户投入越深，，，产品留存越强，，，付费转化也越容易 。。。。。。但在未成年人、心理懦弱人群、孤苦老人等场景里，，，这种黏性很容易越过清静界线 。。。。。。
最后是平台分发责任 。。。。。。一个用户自己建设、自己使用的智能体，，，风险半径有限；；；；一旦进入智能体广场、排行榜、搜索页和推荐流，，，平台就加入了放大 。。。。。。此时再用“用户自建”诠释责任，，，就有些“无力”了 。。。。。。
这就是豆包、千问这类大流量入口最敏感的地方，，，它们做全民AI助手的品牌要求是清洁、可信、普适 。。。。。。但主App里若是混入大宗虚拟情人、暧昧陪同、侵权角色、擦边人设，，，一旦被截图撒播，，，损害的会是整个产品的公共信任 。。。。。。
豆包和千问的下架行动实质上都是阻止为非焦点场景肩负特殊风险 。。。。。。两者都说明，，，大厂已经最先给关系型智能体重新算账 。。。。。。
新规把界线画到了产品形态上
新规真正有杀伤力的地方，，，在于它没有停留在“内容审核”层面，，，而是把羁系界线延伸到了服务界说和产品形态 。。。。。。
据《人工智能拟人化互动服务治理暂行步伐》第八条指出，，，天生、提供淫秽色情、亲密性模拟交互内容或硬件功效，，，被明确榨取 。。。。。。这条规则直击“拟人化关系商业化”的灰色地带 。。。。。。
已往许多AI陪同产品会用“情绪”“陪护”“孤苦经济”包装自己 。。。。。。外貌上它们提供倾吐、陪同、慰藉，，，现实上增添最强的是更暧昧的部分：不限于亲密称呼、恋爱角色、暧昧对话等 。。。。。。用户越投入，，，停留越久；；；；关系越强，，，付费越容易 。。。。。。
关系型智能体把AI从工具酿成关系工具，，，把一次性的使用酿成一连性的陪同 。。。。。。；；；嵩薄⒔巧ㄒ妗⒏呒赌Ｗ印⒌谰摺⒍┰，，，都可以接在这条关系链上 。。。。。。
问题也出在这里 。。。。。。
当产品最先使用孤苦、亲密需求、情绪懦弱性提高留存和付费，，，羁系关注点就会从“模子有没有说错话”转向“平台有没有制造依赖” 。。。。。。若是再叠加未成年人、诱导消耗、色情体现、侵权人设、心理疏导越界，，，风险品级会迅速上升 。。。。。。
以是，，，新妄想出的界线可以概括成一句话：情绪陪护可以做，，，把陪护关系性化不可；；；；拟人化交互可以做，，，用拟人化关系导向情欲消耗不可 。。。。。。
从这一角度看，，，对AI硬件公司的压力更大 。。。。。。
许多硬件从业者原本以为，，，拟人化互动羁系主要影响谈天App、智能体平台、虚拟陪同软件 。。。。。。但新规笼罩的是“拟人化互动服务”，，，硬件只要搭载语音陪同、自动眷注、仿人外观，，，就可能进入羁系视野 。。。。。。
尤其是AI陪护机械人、AI宠物、AI玩具、老人陪同终端等 。。。。。。这些产品自然会强调陪同感 。。。。。。为了提高用户黏性，，，厂商会设计专属称呼、情绪识别、自动问候、影象偏好、拟人语气甚至肢体行动 。。。。。。这些设计自己并不必定违规，，，但界线会变得很是敏感 。。。。。。
儿童场景涉及未成年人保；；；ぁ⒎雷琶浴⒓壑倒壑傅肌⒂盏枷牡龋；；；老人场景涉及认知能力下降、康健建议误导、诈骗风险等 。。。。。。只要厂商宣传自己提供“陪护”“心理疏导”“情绪宽慰”，，，就不可再把自己简朴界说成卖硬件 。。。。。。
更高风险的是“情绪陪同AI+性交互硬件” 。。。。。。
成人硬件行业已往有一个显着痛点：一次性消耗多，，，一连留存弱，，，用户关系浅 。。。。。。AI给它提供了新的想象空间：让硬件拥有人格、影象和情绪回应，，，把工具酿成“朋侪”，，，再通过订阅、内容、互动剧本实现一连变现 。。。。。。
新规直接堵住了这条路 。。。。。。
一款产品若是同时具备AI情绪陪同、恒久人格影象、情欲互动算法、仿真性结构或模拟性行为机械结构，，，就很难再被诠释成通俗成人用品或通俗陪护装备 。。。。。。它的风险不再是模子无意越界，，，而是产品设计目的自己踩线 。。。。。。新规施行后，，，这类产品在清静评估、上市销售、渠道合规上都会遭遇实质障碍 。。。。。。
软件产品出问题，，，还能下线入口、调解模子、增添过滤、修改提醒词 。。。。。。硬件一旦开模、生产、铺货、上市，，，整改本钱极高 。。。。。。产品形态若是已经带着亲密模拟结构，，，合规风险就被固化在装备上 。。。。。。
以是AI硬件从业者的压力，，，来自一个更前置的问题：产品界说能不可经得起审查 。。。。。。
你究竟是生涯辅助装备，，，照旧虚拟朋侪？？？？收人照护终端，，，照旧借陪护之名包装亲密互动？？？？是情绪支持工具，，，照旧通过人格化关系推动情欲消耗？？？？
这些问题回覆不清，，，产品很难走远 。。。。。。
智能体最先分流
一个判断是，，，智能体行业接下来不会整体降温，，，但会显着分层 。。。。。。
第一类，，，使命型智能体会继续加速 。。。。。。
办公助手、企业知识库、代码智能体、客服助手、聚会纪要、数据剖析助手、流程自动化Agent，，，这些产品解决的是明确使命 。。。。。。它们的价值可以用效率、本钱、准确率、响应速率、流程节约来权衡 。。。。。。
这类产品的合规重点主要在数据清静、权限控制、企业审计、输出责任 。。。。。。它们不会自动制造亲密关系，，，也不依赖用户情绪黏性变现 。。。。。。WorkBuddy这类产品能相对平稳，，，原因就在这里 。。。。。。
它有风险，，，但风险类型清晰；；；；它要治理的是“组织怎样清静使用AI”，，，不是“用户是否对一个虚拟人格爆发依赖” 。。。。。。
第二类，，，关系型智能体进入强合规时代 。。。。。。
AI情人、虚拟男友/女友、情绪陪同、角色饰演、用户自建智能体、智能体广场，，，并不会由于新规直接消逝 。。。。。。陪同、倾吐、孤苦缓解、养老辅助、心理支持，，，都是真实需求 。。。。。。AI在这些场景里也有价值 。。。。。。
但已往那套玩法走欠亨了 。。。。。。
开放UGC、擦边人设、低本钱角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖，，，这条链路会越来越难做 。。。。。。平台必需补上年岁分级、防着迷、未成年人保；；；ぁ⒛谌萆蠛恕⒄嫒朔旅爸卫怼⒔巧嫒ㄉ蠛恕⒎缦仗嵝选⒂盏枷南拗啤⑶樾饕览到缦咧卫淼 。。。。。。
而这些工具也都会进入本钱表 。。。。。。
已往一个小团队接入模子API，，，做一套角色模板，，，加上广场和分享机制，，，很快就能跑出一个陪同产品 。。。。。。合规本钱没有显性化时，，，增添故事很好讲 。。。。。。一旦审核、投诉、版权、未成年人保；；；ぁ⑿睦矸缦崭稍ざ寄鸪捎脖厩，，，许多产品的商业模子会被重新盘算 。。。。。。
关系型智能体仍有时机，，，但会从“野放式增添”进入“强界线运营” 。。。。。。留下来的，，，不会是最会撩拨情绪的团队，，，而是能把场景、责任和风险讲清晰的团队 。。。。。。
第三类，，，“拟人化AI+情欲硬件”会被挤出主流市场 。。。。。。
这类产品的问题最尖锐 。。。。。。谈天产品偶发越界还能调解，，，硬件产品一旦把仿真结构、亲密模拟、情欲算法和AI人格绑定起来，，，就已经完成磷七风险产品闭环 。。。。。。
新规拆掉了许多灰色包装：你不可一边宣称养老陪护、心理疏导、日常陪同，，，一边设计情欲互动算法和性交互硬件；；；；不可一边享受拟人化关系带来的高黏性，，，一边又把风险藏在“成人自愿使用”的叙事里 。。。。。。
这显然会带来一轮行业出清 。。。。。。短期内，，，平台会缩短智能体营业，，，整理敏感角色，，，降低情绪陪同功效在主App里的权重；；；；AI陪同产品会强化分级、审核和提醒；；；；部分AI硬件项目会推迟上市，，，重新评估外观、交互和功效界线 。。。。。。
恒久看，，，智能体行业会回到更清晰的价值框架里：能提高效率的继续做，，，能提供照护的规范做，，，依赖擦边和情欲变现的退出 。。。。。。
这也是豆包、千问这次行动给行业的最大信号 。。。。。。
它们并没有否认AI应用，，，也没有否认智能体偏向 。。。。。。它们只是用产品调解告诉行业：关系型智能体不可再无差别地塞进主入口，，，平台不可继续把高风险互动当成低本钱增添工具 。。。。。。
AI行业进入下一阶段后，，，竞争不但看模子能力、入口流量和交互体验，，，还要看合规能力、风控系统和社会信任 。。。。。。
已往，，，智能体被想象成一个“什么都能饰演、什么关系都能模拟”的万能入口 。。。。。。新规之后，，，这一想象需要重写 。。。。。。所谓“智能体离别野蛮生长”，，，说究竟，，，是行业最先为产品界线、用户懦弱性和商业模式付账 。。。。。。
本文来自虎嗅，，，原文链接：https://www.huxiu.com/article/4872727.html?f=wyxwapp
