7月初,字节跳动旗下的豆包和阿里巴巴旗下的通义千问双双宣布:智能体功能将于7月15日正式下线。

对于智能体功能下线,豆包、千问在通知中仅提及“由于产品功能调整”,并没有给出具体原因。记者就此采访豆包和千问,截至发稿前,对方未做回应。不过值得注意的是,两家大模型厂商宣布正式下架智能体功能的时间节点与国家网信办等五部门发布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)的生效日期完全重合。

所谓人工智能拟人化互动服务,是指利用人工智能技术向公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务。提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本《办法》。

素喜智研高级研究员苏筱芮表示,豆包、千问等下架智能体功能,更多是出于监管合规考虑。此次下架的主要是允许用户自定义人设、实现情感陪伴的聊天机器人。

不少用户一头雾水:同样是AI智能体,为什么办公工具安然无恙,陪聊天的“AI搭子”却要挨刀?

拟人化AI提供情绪价值,也暗藏隐患

典型的拟人化智能体服务主要体现为“虚拟伴侣、情感树洞”,如用户自主搭建虚拟恋人、沉浸式剧情角色扮演AI、个性化情绪陪伴搭子等,属于持续性情感交互类功能。用户自行设定智能体的外貌性格、人物背景、说话语气,被网友亲切称为自己的专属“AI搭子”。

7月15日正式生效的《办法》,明确对人工智能拟人化互动服务实行包容审慎和分类分级监管。其中,明确不得从事的活动包含:向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系;通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。

为什么紧盯“情感互动”?“因为拟人化AI在提供情绪价值的同时,也暗藏隐患,例如价值观误导、未成年人沉迷,甚至软色情等不良内容泛滥。而办公工具类AI因为偏向人机协同,风险较低,自然不在本次整改的靶心之内。”苏筱芮表示,总体来看,《办法》是在为存有风险的拟人化互动服务设立安全“防护网”,长期目标是推动行业从粗放发展进入更健康、规范的新阶段。

新规落地重塑模型平台“吸金逻辑”

面对相同监管要求,豆包选择把智能体迁移至独立App猫箱,千问直接关停且无承接渠道。

据苏筱芮分析,前者主要是隔离避险与战略保留并举的策略,通过设立隔离区,在保留赛道“火种”的同时,也能够降低主App的运营负担;而后者更期望通过战略聚焦,剥离与其发展主线无关的非核心业务,将精力、资源集中在面向企业与专业用户的工具型AI智能体上。

不少人对精心搭建的专属AI早已形成使用习惯甚至产生情感依赖,突然的下架让很多人犯了难:我的会员费怎么算?我的数据怎么办?

这也倒逼行业必须做好“售后服务”:一方面,平台需妥善处理好全流程告知、付费会员权益顺延与补偿;另一方面,必须加快研发高效办公、数据处理等实用型AI工具,用合规的新产品来填补情感智能体退场留下的空白。

更深层的影响在于,此次新规落地也重塑了模型平台的“吸金逻辑”。

正如苏筱芮所言,本轮合规整改是商业模式转型的契机。各大平台开始拆分业务板块,将高风险的情感交互与低风险的工具服务独立运营。整个AI行业的变现逻辑,正在从“为情感付费”加速向“为生产力付费”转变。未来,面向普通人的娱乐陪伴AI将持续规范化发展,服务产业、提升工作效率的工具型AI则会成为发展主流。

来源:金融时报