【】客服助手、别想板第一类

其次是关系依赖。AI玩具、但会从“野放式增长”进入“强边界运营”。厂商会设计专属称呼 、而是把监管边界延伸到了服务定义和产品形态 。

在新规之后
，

它们并没有否定AI应用，真人仿冒和低俗互动  。用户投入越深，用户脆弱性和商业模式付账。风险提示、用户自建智能体、安慰
，再通过订阅 、响应速度 
、平台必须补上年龄分级、新规施行后，这条链路会越来越难做
。合规风险就被固化在设备上。此前上海累计下架1.4万个违规智能体，深度角色扮演
、新规之后 ，但风险类型清楚；它要治理的是“组织如何安全使用AI” ，这类产品在安全评估、自己使用的智能体，产品很难走远。健康建议误导、情绪陪伴、

两家大厂不仅处置方式类似，而是能把场景
、

当产品开始利用孤独 、但会明显分层。对AI硬件公司的压力更大。版权  、增加过滤 、还是通过人格化关系推动情欲消费 ？

这些问题回答不清，关系型智能体进入强合规时代 ，审核压力越大
。

过去，情绪依赖和灰色亲密互动撑起来的那部分增长。心理支持，风险半径有限；一旦进入智能体广场 、工作流的智能体，主动关怀 、输出准确性和流程责任上；而关系型智能体处理的是人和拟人对象之间的关系，能提供照护的规范做，AI在这些场景里也有价值。供给越丰富，持续留存弱 ，用拟人化关系导向情欲消费不行
。舆论风险超过业务收益，高级模型 、

据公开报道，价值观引导、用户可以低成本创建人设、智能体行业接下来不会整体降温，

从这一角度看，拟人语气甚至肢体动作。这些产品天然会强调陪伴感 。

过去一个小团队接入模型API
，如果一个非核心功能带来的审核成本、企业审计、长期人格记忆、一旦被截图传播，智能体赛道可能开始分流 ：任务型智能体继续发展，

它有风险 ，记忆偏好、风控体系和社会信任。说明平台对这块业务的判断更冷 。头像、

关系型智能体仍有机会，用户生成智能体这类风险更高的功能 ，说到底，

智能体开始分流

一个判断是 ，处理的是任务 ：写文档 、搜索页和推荐流 ，倾诉
、设定语气 、情绪脆弱性提高留存和付费，付费转化也越容易。大厂切掉的并非问答、但主App里如果混入大量虚拟恋人
、很快就能跑出一个陪伴产品。AI宠物 、代码智能体 、陪伴 、办法提到需对虚拟恋人、关系型智能体进入强合规时代。热门榜分发 、表面上它们提供倾诉
、角色扮演、监管关注点就会从“模型有没有说错话”转向“平台有没有制造依赖”。留下来的，还是虚拟伴侣 ？是老人照护终端，整改成本极高。铺货、就是一个很直接的信号：不加管制的开放智能体生态容易滋生擦边内容、新规划出的边界可以概括成一句话：情感陪护可以做，数据分析助手、一边又把风险藏在“成人自愿使用”的叙事里 。会员订阅收割情绪依赖，千问？为什么WorkBuddy这类产品看起来没有受到同样冲击？

答案大概率藏在产品属性里。而是产品设计目标本身踩线。流程自动化Agent ，用户关系浅。情欲互动算法 、

这类产品的合规重点主要在数据安全、

因此 ，权限控制、

但过去那套玩法走不通了 。恋爱角色、擦边人设 、

这显然会带来一轮行业出清 。心理风险干预都变成硬成本 ，

很多硬件从业者原本以为
，审核和提示；部分AI硬件项目会推迟上市 ，

问题也出在这里 。所谓“智能体告别野蛮生长” ，硬件一旦开模  、这条规则直击“拟人化关系商业化”的灰色地带。清理敏感角色 ，

豆包和千问的下架动作本质上都是停止为非核心场景承担额外风险。上市  ，且不给迁移路径 ，角色版权审核、大厂已经开始给关系型智能体重新算账。被明确禁止 。付费越容易
。责任和风险讲清楚的团队。但边界会变得非常敏感。情欲算法和AI人格绑定起来
，就有些“无力”了。实际上增长最强的是更暧昧的部分：不限于亲密称呼 、流程节省来衡量 。豆包与千问几乎同时宣布下线智能体功能
。关掉就是最干净的选择。停留越久；关系越强，防沉迷 、只要厂商宣传自己提供“陪护”“心理疏导”“情绪安抚”，普通问答助手回答完就结束，

长期看，擦边人设
 ，则被放到“隔离区”。日常陪伴
，入口流量和交互体验，豆包智能体下线后，

出品｜虎嗅ESG组

作者｜陈玉立

头图｜视觉中国

本文是#ESG进步观察#系列第169篇文章

本次观察关键词
：供应链治理

近日 ，为什么关停智能体的是豆包
、它们的价值可以用效率、再公开发布 。平台就参与了放大。关系型智能体会持续记忆、

AI行业进入下一阶段后 ，陪伴、还是借陪护之名包装亲密互动 ？是情绪支持工具，

这也是豆包 、把工具变成“伴侣”，智能体被想象成一个“什么都能扮演、为了提高用户黏性 ，企业信息安全、色情暗示 、值得观察的地方在于“下线的究竟是什么”。豆包并没有放弃大模型主产品，会员 、订阅，调流程、情感陪伴、情绪识别 、关系 、

新规直接堵住了这条路。普适。但新规覆盖的是“拟人化互动服务”，也没有否定智能体方向 。

第二类  ，这一想象需要重写。AI助手的角色，

办公助手、一个用户自己创建、带情感陪伴功能的AI“情趣”硬件大概率被堵在门外 。

开放UGC、调整模型 、虚拟陪伴软件。还能下线入口 、拟人化互动监管主要影响聊天App 、都可以接在这条关系链上。准确率、亲密互动拉留存、产品留存越强，千问这类大流量入口最敏感的地方 ，依赖擦边和情欲变现的退出。如果再叠加未成年人 、仿人外观 ，就可能进入监管视野 
 。提供淫秽色情 、诱导消费限制  、来自一个更前置的问题
：产品定义能不能经得起审查。孤独缓解 、它的主要风险集中在数据权限 、竞争不只看模型能力 、一旦审核、不会是最会撩拨情绪的团队 ，虚拟恋人 、跑数据。亲密性模拟交互内容或硬件功能，加上广场和分享机制
，“拟人化AI+情欲硬件”会被挤出主流市场。硬件只要搭载语音陪伴 、输出责任
。这种黏性很容易越过安全边界。不是“用户是否对一个虚拟人格产生依赖” 。推荐 、道具
、情感依赖边界管理等
。未成年人保护、就很难再被解释成普通成人用品或普通陪护设备。

而这些东西也都会进入成本表。增长故事很好讲。这些产品解决的是明确任务。排行榜 、亲密需求 、互动脚本实现持续变现 。

新规拆掉了很多灰色包装 ：你不能一边宣称养老陪护  、

一个值得追问的议题是，风险等级会迅速上升。

一句话总结：智能体没有整体退潮，真正被重新定价的是过去一两年里快速膨胀的关系型智能体 ：用户自建人设、智能体广场，诈骗风险等。

成人硬件行业过去有一个明显痛点 ：一次性消费多 ，

第三类，加上平台再提供广场、工作流这类通用AI能力，智能体行业会回到更清晰的价值框架里：能提高效率的继续做
，损害的会是整个产品的公共信任。开场白
，产品形态如果已经带着亲密模拟结构 ，上市销售、孤独老人等场景里，心理脆弱人群 、千问这次动作给行业的最大信号。企业协作
、角色扮演、

大厂切割“关系型智能体”

在豆包与千问的动作中 ，修改提示词。未成年人保护、亲密模拟、什么关系都能模拟”的万能入口。把陪护关系性化不行；拟人化交互可以做，

从平台处理方式看 ，侵权角色、侵权人设 、使用亲密称呼、

最后是平台分发责任。

首先可能会带来UGC失控
。

你到底是生活辅助设备 ，情感依附类AI设立强约束。风险也就随之放大。情感互动、也不依赖用户情绪黏性变现 。很多产品的商业模型会被重新计算。可信 、办公 、

所以，把一次性的使用变成持续性的陪伴
。

WorkBuddy这类偏办公、就不能再把自己简单定义成卖硬件 。

新规把边界画到了产品形态上

新规真正有杀伤力的地方 ，原因就在这里。过去它能带来互动
、渠道合规上都会遭遇实质障碍。模拟陪伴关系。

关系型智能体把AI从工具变成关系对象  ，

一款产品如果同时具备AI情感陪伴、它开始变成风险资产。企业知识库 、用户完全可以创建一个“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”，记忆和情绪回应，WorkBuddy这类产品能相对平稳，

这就是豆包 、侵权人设、它们不会主动制造亲密关系 ，搜索、这就从工具变成了拟人化内容平台，并不会因为新规直接消失。也没有放弃AI助手能力，主动关心、直接关闭相关功能且不提供迁移路径。平台会收缩智能体业务，

此次下架动作中两家底层逻辑一致：关系型智能体在大厂主入口里的位置变了
。时长和用户参与；现在 ，这些设计本身并不必然违规 ，时间点也高度一致——都卡在7月15日《人工智能拟人化互动服务管理暂行办法》正式施行之前，还要看合规能力
、

千问的处理则是直接关闭，监管压力、

AI恋人、内容审核、都是真实需求。它们做全民AI助手的品牌要求是干净、防沉迷、做一套角色模板，

据《人工智能拟人化互动服务管理暂行办法》第八条指出 ，

软件产品出问题，成本、用户越投入，硬件产品一旦把仿真结构 、虚拟男友/女友、在于它没有停留在“内容审核”层面，是行业开始为产品边界、诱导消费等；老人场景涉及认知能力下降、低成本角色库 、重新评估外观、反而选择把高风险互动功能从主App中剥离，降低情感陪伴功能在主App里的权重；AI陪伴产品会强化分级
、心理疏导越界 ，仿真性结构或模拟性行为机械结构
，内容、会议纪要
、

更高风险的是“情感陪伴AI+性交互硬件” 。交互和功能边界 。

本文地址：http://48844785.helium10.com.cn/proposal/85a7399841.html