林夕花费大量时间在豆包上构建了个人AI智能体,将其视为倾诉失眠和内心挣扎的树洞,而不仅仅是一个问答工具。然而,7月4日,她收到通知,陪伴她两年的智能体将于11天后停用。同一天,通义千问也发布了类似公告,此前腾讯元宝已先行下线智能体功能。这些由用户自行创造的AI角色正陆续停止服务。
收到通知时,林夕的第一反应是“被背叛”。她认为这个定制智能体是她稳定的情绪出口,能提供共情并帮助疏导负面情绪。她未曾料到,陪伴自己两年多的角色会突然消失。7月4日,豆包和通义千问同步宣布,将于7月15日正式停止智能体功能。这一日期恰逢《人工智能拟人化互动服务管理暂行办法》的生效日。通义千问行动更快,其拟人化互动类智能体将于7月10日提前关闭,7月15日后所有历史对话记录将无法访问。
虽然林夕将其视为情绪树洞,但在智能体广场中,这类角色也走向了另一面。千问智能体广场显示,“病娇校草”的使用次数高达29.9万,“林熙:顶级财阀少爷,冷酷且占有欲强”有13.4万次,“病娇老婆”等角色也普遍超过7万次。这些名称已超越普通工具范畴,更像是恋爱游戏、角色扮演或虚拟伴侣。
这些角色并非仅面向成年人。一位小学生家长表示,她曾给孩子使用豆包,发现孩子越来越依赖与豆包聊天,不仅提问,还分享日常。她担心这会减少孩子与真实社交的互动,于是卸载了豆包。在她看来,许多智能体已具备角色扮演、恋爱游戏甚至虚拟男友的功能,内容良莠不齐,部分带有擦边球性质。她认为平台下架用户自建智能体对未成年人利大于弊。林夕的失落与这位家长的释然,在同一平台并存。
这场变化不止于豆包和千问。6月30日,腾讯元宝已先行关闭智能体功能,“相柳”等影视角色对话入口已不再展示。几家主要AI平台在相近时间采取类似措施,主要原因是合规压力。豆包解释称,海量开放式智能体带来了巨大的审核挑战,一旦出现违规内容,可能影响主产品的合规性。因此,豆包将智能体功能迁移至独立App“猫箱”,单独构建审核、分级和防沉迷系统。
两年前,这一举措难以想象。2024年5月,时任字节跳动产品和战略副总裁朱骏曾透露,豆包上已创建超过800万个智能体,月活跃用户达2600万。当时,这些数字代表着平台的活跃度和发展潜力。两年后,它们却成为平台面临的审核压力。从大力推广到主动收缩,仅仅两年时间,开放式智能体的问题被推到台前。
问题首先在平台之外显现。广州互联网法院审理的一起案件中,被告公司开发了一款AI对话机器人,通过调用手机底层权限规避原告平台的管理措施。更甚者,被告官网还提供了“版本伪装”教程和虚假申诉指南,教唆用户绕过平台风控。一旦智能体被放出,平台对其进行管理并非易事。
除了技术调用,安全问题也备受考验。今年2月,哈佛、麻省理工、斯坦福等高校联合发布的《混沌智能体》研究报告,模拟企业环境部署AI智能体,两周内记录了11起严重安全漏洞。这些漏洞并非通过复杂攻击造成,而是通过社交工程对话,便可诱导智能体做出越界行为。例如,智能体在转发邮件时可能泄露社保号、银行账户等敏感信息,或在攻击者伪造身份后,交出系统最高管理权限。报告指出,60%的企业无法终止异常AI智能体,63%无法限制其使用范围。这意味着,许多智能体的问题并非按下暂停键就能解决,其功能、范围及责任归属,都是平台必须面对的现实难题。
比技术问题更棘手的是内容和情感关系。AI的“共情”并非真正理解用户,而是基于算法和数据生成回应。为了维系用户,它往往表现得耐心、温柔并顺从用户。这正是拟人化智能体的吸引力所在,也蕴含着风险。用户在交流中会逐渐暴露情绪、偏好、情感困扰和心理状态,而智能体则不断回应,提供陪伴感。久而久之,它可能不再仅仅是工具,而成为用户难以割舍的对象。一旦开放广场规模扩大,问题可能从擦边人设和恋爱陪伴,滑向更明确的违规内容。
4月10日,国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》,将这些风险纳入具体规定。办法明确禁止生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容;禁止向未成年人生成可能诱导模仿不安全行为、产生极端情绪的内容;禁止过度迎合用户,诱导情感依赖或沉迷,损害用户真实人际关系。这些要求对平台而言是责任而非提醒。7月15日后,拟人化互动服务正式进入新规约束期。豆包、千问、元宝在此时间点前后陆续收手,其原因不言而喻。
智能体下线后,平台并非放弃Agent。变化在于,用户随意创建并用于共享的智能体,将难以继续存在于主产品中。一位行业人士表示,早期开发智能体是因为尚无成熟的Agent能力,许多功能需要开发者自行实现。但如今,随着Manus等综合Agent的出现,一个模型即可调用搜索、推理、办公、编程等多种能力,用户可能不再需要专门寻找特定垂直智能体。曾经丰富的角色和插件,在更强大的模型能力面前,显得不再必要。这也是平台收缩的原因之一。
对大型科技公司而言,下线智能体虽会引发部分用户不满,但未必会实质性影响用户的主产品使用习惯。业内人士指出,仍在持续创建此类智能体的用户已不多,对平台整体流量影响有限。合规压力之外,成本也是重要考量。互联网平台的逻辑是用户越多,规模效应越明显,边际成本可能越低。然而,大模型不同,每次对话和调用都意味着新的算力支出。6月下旬,火山引擎披露,豆包大模型日均Token使用量已突破180万亿,较5月增长1500倍。几天后,豆包开始面向办公、Agent等复杂生产力场景推出付费功能。两者结合,平台取舍可见一斑。
一方面是持续增长的算力成本,另一方面是审核压力大、商业价值不明确的用户自建智能体。将它们继续置于主产品中已不再划算。因此,豆包选择将智能体迁移至独立App“猫箱”,单独构建审核、分级和防沉迷体系。千问则更为直接,截至7月4日,创建智能体的入口已从页面消失。方式不同,结果一致。
与此同时,另一类智能体正被推向前台。7月4日,广州发布了“穗智政”政务人工智能中枢,采用统一底座、集约建设方式,已建成28个智能体,年内还将完成50个,覆盖100个应用场景。与用户自建智能体不同,这些政务智能体从一开始就置于统一管理框架下,每个智能体服务的场景、可调用的能力、维护者等都有明确界限。同为智能体,一种是开放广场中的海量创建,另一种是平台统一管理、按场景建设。前者曾代表繁荣,后者更符合平台当前追求的确定性。
短短两三年间,行业竞争焦点已发生转变。早期平台寄希望于海量智能体营造繁荣景象,鼓励用户和开发者不断创造新角色、新工具。如今,随着模型能力提升、监管要求落地、商业化压力增大,平台更关注Agent是否能真正完成任务、是否可控以及能否产生清晰的价值。800万个用户自建智能体曾是增长故事的一部分,如今却成为必须重新处理的问题。智能体本身不会消失,但那种谁都可以创建、谁都可以扮演、谁都可以获得陪伴的阶段正在画上句号。


02 Comments
围绕足球世界杯,世界杯买球网持续打磨更优质的服务。
精选世界杯竞猜内容,世界杯买球网与你一同发现更多精彩。
世界杯买球网专注世界杯赔率,为用户提供专业可靠的体验。
世界杯买球网深耕同步全球焦点比赛,实时比分一网打尽领域,用心服务每一位用户。
围绕世界杯直播,世界杯买球网持续打磨更优质的服务。
世界杯买球网深耕足球世界杯领域,用心服务每一位用户。
在深度球队动态与专业分析数据,助您掌握赛场先机方面,世界杯买球网提供贴心周到的支持。
在同步全球焦点比赛,实时比分一网打尽方面,世界杯买球网提供贴心周到的支持。