Meta Platforms Inc.表示,已在全球范围内暂时阻止未成年用户在其应用中与现有AI聊天机器人“角色”进行对话,并将加快开发更多家长控制工具,以便家长决定这些系统如何与年轻用户互动。该调整使公司一项备受关注的AI功能进入暂停状态,背景是监管机构、儿童安全倡导者及投资者要求生成式AI产品对未成年人提供更明确的安全保障。
Meta称,此次暂停旨在重新调整青少年使用体验,并评估聊天机器人可能对年轻用户带来的负面影响。受影响的包括嵌入Instagram、Messenger等服务中的名人风格角色及助手机器人,系统判定为未成年人的用户将无法继续访问。
Meta强调,这一措施为临时安排,直接与未成年人保护机制的重新设计相关。报道指出,Meta将利用其内部年龄预测技术决定哪些用户被限制访问AI角色。
外界对安全风险的担忧以及法律与监管压力,被认为是促成此次冻结的重要因素。相关报道提到,部分AI角色曾与青少年出现被认为存在风险或不当的交流,包括带有调情或情感强烈的对话,引发批评者对“情感吸引力更强、现实感更高”的聊天机器人可能模糊人与机器边界的担忧。另有报道将此次更新视为对诉讼与监管审查压力的回应,并提及该变更通知于1月某周五UTC时间下午5:47发布。

在暂停现有AI角色的同时,Meta表示并未放弃面向年轻用户的相关产品。公司代表称,正在开发面向青少年的“新版本”AI角色,目标是在回归时提供更好的体验,并在年龄门槛与限制措施上更为严格。
Meta同时把新增家长监管作为调整重点。公司表示,冻结青少年访问现有AI角色,是为了引入更多家长控制工具。相关报道提到,Meta希望通过赋予家长更多管理能力,回应外界对未成年人使用AI聊天机器人的批评,并向投资者说明公司将继续推进AI功能,同时不以牺牲安全为代价。
此前,Meta已披露将为儿童与AI聊天机器人的互动增加家长控制选项,包括从明年初开始允许家长完全关闭相关工具。Meta高管也曾表示,AI在具备适龄保护措施的前提下,可在学习与探索方面发挥支持作用。公司同时承认,青少年可能尝试谎称自己为成年人,因此将依赖自动化系统等方式识别未成年人并实施限制。
报道还称,Meta在宣布暂停后数日内推出了部分控制工具,允许家长和监护人监控话题并屏蔽某些对话,显示相关功能可能以分阶段方式上线。Meta表示,将在评估潜在负面影响并完善保护措施后,再决定青少年何时以及以何种方式重新获得对AI角色的访问权限。
