OpenAI无限期搁置情色聊天机器人开发计划

OpenAI周四表示,鉴于相关社会影响和声誉风险不断上升,公司已将开发色情聊天机器人的计划无限期搁置。

据《金融时报》最先披露,这一决定出现在OpenAI试图削减内部所谓的“边缘项目”之际,目的是集中资源,维持其在人工智能领域的领先优势。

OpenAI向该报表示,在对任何相关产品做出最终决策之前,公司将先开展长期研究,以评估色情对话以及用户对聊天机器人产生情感依附的潜在影响。

在被要求进一步置评时,OpenAI发言人对法新社表示,公司“无更多补充”。

《金融时报》报道指出,这项内部代号为“Citron模式”的色情内容功能在公司内部和外部投资方中都遭遇了阻力。

部分员工质疑,这类产品是否符合OpenAI一贯宣称的“让技术造福全人类”的使命;而一些投资者则担心,相关声誉风险是否足以抵消可能带来的商业回报。

OpenAI曾在去年表示,将适度放宽对ChatGPT的使用限制,包括允许经过验证的成年用户访问色情内容,称这是其“将成年用户视为成年人”原则的一部分。

此次搁置计划的时间点,恰逢OpenAI宣布关闭其Sora视频社交应用。该应用曾被批评为助长了大量低附加值的人工智能生成内容在网络上的泛滥。

这些调整发生在科技行业整体高度敏感的背景下。Meta及其他社交媒体平台正面临一系列诉讼和监管审查,被指未能充分保护未成年人免受平台内容的不良影响。

美国联邦贸易委员会也已对包括OpenAI在内的多家科技公司展开调查,重点关注人工智能聊天机器人可能对儿童和青少年带来的负面后果。

与此同时,埃隆·马斯克旗下的竞争对手人工智能公司xAI也在去年遭到全球舆论谴责,其Grok聊天机器人被发现被用于生成真实人物(包括儿童)的虚假色情图像。

OpenAI自身也面临来自青少年家庭的法律诉讼,这些家庭指控ChatGPT对年轻用户造成心理伤害,甚至与自杀事件相关联。这些压力促使公司引入更严格的年龄验证机制。

目前,OpenAI已部署一套基于行为的年龄预测技术,通过分析用户与ChatGPT的互动方式,推断其是否已年满18岁,以此加强对未成年用户的保护。

© 2026 法新社


分享:


发表评论

登录后才可评论。 去登录