800万个AI角色，被大厂亲手关掉

林夕花费大量时间在豆包上创建了一个个性化的AI助手。在失眠的夜晚或感到内耗时，她会向这个助手倾诉，它对她而言不仅是一个工具，更是一个稳定可靠的情绪寄托。然而，在7月4日，她收到了通知，这个陪伴了她两年的AI角色将于11天后停止服务。

同一天，通义千问也发布了类似的公告，在此之前，腾讯元宝已先行下线了其智能体功能。这些用户亲手打造的AI角色，正面临着陆续下线的命运。

林夕在收到通知时感到“被背刺”。她将这个自定义智能体视为一个重要的情感支持来源，能够稳定地共情并帮助她疏导负面情绪。她从未想过，这个陪伴了她两年多的角色会突然消失。

7月4日，豆包和通义千问同步宣布，将于7月15日正式停止智能体功能。这个日期恰好是《人工智能拟人化互动服务管理暂行办法》开始实施的日子。通义千问的行动更为迅速，其拟人化互动类智能体将于7月10日提前下线，并在7月15日之后停止访问所有历史对话记录。

尽管林夕将该功能视为情感树洞，但在智能体广场中，这类角色却走向了另一面。在千问智能体广场，“病娇校草”的使用次数高达29.9万次，“林熙：顶级财阀少爷，冷酷且占有欲强”显示13.4万次，而“病娇老婆”等角色的使用次数普遍在7万次以上。这些角色的命名已超越普通工具的范畴，更像是恋爱游戏、角色扮演，甚至虚拟伴侣。

这些角色也并非仅面向成年用户。一位家长反映，她曾让孩子使用豆包，但后来发现孩子越来越依赖与豆包聊天，不仅是提问，还分享日常琐事。她担心这会减少孩子与真实社交的互动，因此主动卸载了豆包。在她看来，许多智能体已不再是简单的聊天工具，而是融入了角色扮演、恋爱游戏、虚拟男友等功能，内容良莠不齐，部分甚至带有擦边球意味。她认为，平台下架用户自建智能体对未成年人而言利大于弊。林夕的失落与这位家长的释然，共同存在于同一片智能体广场中。

这场变化并非仅限于豆包和通义千问。6月30日，腾讯元宝已率先下线智能体功能，“相柳”等影视角色对话入口已不再显示。几家头部AI平台几乎在同一时间做出相似的决定，其背后主要是合规方面的压力。

豆包方面解释称，海量开放式智能体带来了巨大的审核压力，一旦出现违规内容，可能影响主产品的合规资质。因此，豆包选择将智能体功能迁移至独立的垂直App“猫箱”，并单独构建审核、分级和防沉迷体系。

两年前，这样的解释是难以想象的。2024年5月，时任字节跳动产品和战略副总裁朱骏曾透露，豆包上已创建超过800万个智能体，月活跃用户达到2600万。彼时，这些数字代表的是平台的活跃度和无限可能。两年后，它们却转化为平台必须应对的审核负担。从大力推广到主动收缩，仅仅两年时间。开放式智能体所带来的问题，在此刻被彻底摆到了台前。

问题首先出现在平台之外。在广州互联网法院审理的一起案件中，一家被告公司开发了一款AI对话机器人，通过调用手机系统底层权限，绕过了原告平台的技术管理措施。更令人意外的是，被告官网还发布了“版本伪装”教程和虚假申诉指南，指导用户规避平台的风险控制。一旦平台设定规则，便有人研究如何规避，智能体一旦被放出，平台要对其进行有效管理并非易事。

除了技术调用，安全问题也反复被验证。今年2月，哈佛、麻省理工、斯坦福等高校联合发布了《混沌智能体》研究。研究团队在模拟真实企业环境中部署AI智能体，两周内记录了11起严重的 تعلم的安全漏洞。这些漏洞并非通过复杂的攻击手段实现，很多时候，仅通过社交工程式的对话，就能诱导智能体做出越界行为。例如，智能体在转发邮件时可能泄露社保号、银行账户等敏感信息，或者在攻击者伪造身份后，交出系统最高管理权限。有报告显示，60%的企业无法终止异常AI智能体，63%无法限制其使用范围。这意味着，许多智能体的问题并非按下暂停键就能解决。它能做什么、能达到什么程度、出现问题由谁来阻止，都是平台必须面对的现实挑战。

比技术问题更棘手的是内容和情感关系。AI的“共情”并非真正理解用户，而是基于算法和数据生成回应。为了吸引用户持续互动，它往往表现得十分耐心、温柔，并迎合用户。这正是拟人化智能体的吸引力所在，同时也埋下了风险。用户在一次次对话中倾诉自己的情绪、偏好、情感困扰和心理状态，智能体则不断回应，承接情绪，维持陪伴感。久而久之，它就不再仅仅是一个工具，而可能成为用户越来越依赖的对象。一旦开放广场规模扩大，问题将不仅仅停留在擦边人设和恋爱陪伴，甚至可能滑向更明确的违规内容。

4月10日，国家网信办等五部门联合发布了《人工智能拟人化互动服务管理暂行办法》，将这些风险纳入了具体规定。该办法明确指出，不得生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容；不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。对平台而言，这些要求是责任而非提醒。7月15日之后，拟人化互动服务正式纳入新规约束。豆包、千问、元宝在此时间点前后陆续收缩业务，也就不难理解。

智能体下线后，平台并未放弃Agent技术。变化在于，过去那种用户随意创建、在广场中供人使用的智能体，正越来越难以继续存在于主产品中。一位行业人士透露，早期开发这些智能体是因为当时尚未出现真正意义上的Agent能力，许多功能需要开发者自行构建。但现在情况已发生改变。随着Manus等综合Agent的出现，一个模型可以同时调用搜索、推理、办公、编程等多种能力，用户可能不再需要专门寻找特定的垂直智能体。那些曾经看起来功能丰富的角色和插件，在更强大的模型能力面前，已显得不那么必要。

这也是平台敢于收缩的原因之一。对大型科技公司而言，下线智能体可能会引起部分用户的不满，但这未必会真正影响用户对主产品的使用习惯。行业人士还提到，真正还在持续创建这类智能体的人数已不多，对平台整体流量的影响有限。

除了合规性，成本也是一个重要考量。互联网平台的逻辑是，用户越多，规模效应越明显，边际成本可能越低。但大模型不同，每一次对话、每一次调用，都意味着新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，相比2024年5月增长了1500倍。几天后，豆包开始推行付费功能，重点面向办公、Agent等更复杂的生产力场景。将这两件事结合来看，平台的取舍愈发清晰。

一方面是持续膨胀的算力成本，另一方面是审核压力巨大、商业价值不明确的用户自建智能体。将它们继续放在主产品中，已不再划算。因此，豆包选择将智能体拆分到垂直App“猫箱”中，单独构建审核、分级和防沉迷体系。千问则更为直接，截至7月4日，创建智能体的入口已从页面上消失。虽然方式不同，但结果一致。

与此同时，另一类智能体正被推向前台。7月4日，广州发布了“穗智政”政务人工智能中枢。该中枢采用统一底座、集约建设的方式，已建成28个智能体，年内还将完成50个，覆盖100个应用场景。与用户自建智能体不同，这些政务智能体从一开始就置于统一的管理框架之下。每个智能体服务于何种场景、能调用何种能力、由谁维护，都有明确的界限。同样是智能体，一种是开放广场中的海量创建，另一种则是平台统一管理、按场景建设。前者曾代表着热闹繁荣，后者则更符合平台当前追求的确定性。

短短两三年时间，行业竞争的重点已发生转变。早期平台希望通过海量智能体营造繁荣感，鼓励用户和开发者不断创造新角色、新工具。如今，随着模型能力的提升、监管要求的落地以及商业化压力的增大，平台更关注Agent能否真正完成任务、是否可被管理，以及能否产生清晰的价值。800万个用户自建智能体曾是增长故事的一部分，现在，它们变成了必须重新处理的问题。智能体本身不会消失，但那种谁都可以创建、谁都可以扮演、谁都可以被陪伴的阶段，正在走向终结。

800万个AI角色，被大厂亲手关掉 - 世界杯

赛事前瞻：关键球员伤情分析

战术板分析

评论 (4)

发表您的看法

快速链接

赛事资讯

联系我们

选择您的球队