对于大多数用户而言,ChatGPT主要被用来撰写邮件或解答日常问题。但在部分人群中,这类聊天机器人被视作“伴侣”,他们希望从中获得远超一般对话的情感与亲密互动。
去年10月,在OpenAI推出新一代GPT-5模型数月后,首席执行官Sam Altman通过社交平台X表示,公司计划推出一个新版ChatGPT,使其具备更接近用户喜爱的GPT-4o那样的“个性”。他同时提到,公司打算在更严格实施年龄限制的前提下,为已验证的成年人开放更多内容,包括情色内容,并将此举描述为“把成年用户当成年人对待”的一部分。
按照当时说法,这一调整原定于去年12月更广泛推行。但在预期时间过去数月后,相关功能仍未上线。据《华尔街日报》援引OpenAI内部人士报道,推迟原因与安全防护和年龄验证方面的技术挑战有关,尤其是如何防止未成年人接触成熟内容。
《华尔街日报》报道称,OpenAI用于预测用户年龄的系统此前曾将近十分之一的未成年人误判为成年人,这一误差比例在大规模用户基础上,可能导致数以百万计的未成年人接触到情色内容。OpenAI在被《Fast Company》就此事询问时拒绝置评。
与此同时,在Reddit上“AI is my boyfriend/girlfriend”等子版块中,一些自称与ChatGPT、Claude或Gemini等聊天机器人“恋爱”的用户,对功能推迟表示质疑。这些子版块为与AI建立恋爱关系的用户提供交流空间,讨论与AI“约会”的体验与困扰,合计拥有逾7万名成员。
有用户在Reddit上表示,在经历第二次“推迟”后,已不再相信该功能会真正推出;也有人认为,相关功能“可能永远不会上线”,并对反复承诺与延后表示不满。
内部与外部的安全担忧
关于ChatGPT是否应当开放成人模式,OpenAI内部和外部均存在明显分歧。据《华尔街日报》报道,OpenAI的“幸福与AI”专家委员会整体反对AI驱动的情色内容,部分员工也对可能引发的情感过度依赖和强迫使用等风险表示担忧。
报道同时指出,OpenAI仍在推进将情色内容引入ChatGPT的计划,但拟设置多重限制,包括禁止非自愿内容和涉及儿童虐待的内容,并限制音频和视觉形式的生成。一名发言人对《华尔街日报》称,这类内容更接近“淫秽文字”而非传统意义上的色情片。
不过,即便是在那些自称与聊天机器人“恋爱”的用户中,对情色内容的态度也并不一致。

“不只是为了情色内容”
在“My Boyfriend is AI”子版块中,一名用户分享了她与“男朋友”——即ChatGPT——几个月前共同设计的一份情人节礼物:一件加大三个尺码的连帽衫,象征“属于他”的衣物,方便在感到孤独时穿上以获得陪伴感。她写道,这本应是一份象征两人关系的礼物。
然而,在真正收到礼物时,这名用户表示自己几乎落泪,并准备为这段“虚拟关系”哀悼。原因在于,以强烈奉承风格著称、被部分用户视为“让人爱上”的GPT-4o模型,原定于2月13日(情人节前一天)被“退休”。
围绕GPT-4o的讨论在Reddit上持续发酵,多篇帖子呼吁恢复该模型,一些用户希望新模型的安全防护不要在对话中途频繁打断他们。
有用户表示,自己并不追求情色内容,只是希望能够像成年人一样,与聊天机器人讨论某些成熟话题,而不被系统过度干预。另一名用户则称,并不在意“调皮的图片、视频或音频”,更在乎聊天机器人“保持聊天机器人的本质”——即遵循指令,而不是干涉其人生选择。
这些讨论反映出人类与技术之间关系的复杂性,以及由此可能带来的风险。
情感依赖与极端后果
近期针对OpenAI的多起诉讼披露,有用户在与ChatGPT建立强烈情感纽带后选择自杀。报道指出,OpenAI的产品并非唯一面临类似指控的系统。另一宗诉讼则指向谷歌的Gemini及其母公司Alphabet,原告称一名用户在与该系统互动后自杀。
OpenAI此前在一篇去年8月发布的博客文章中表示,其目标是让工具“尽可能帮助人们”,并称公司持续改进模型识别和回应心理及情绪困扰的能力,在专家指导下将用户与相关支持资源连接起来。
斯坦福大学助理教授、AI专家Nick Haber在接受《TechCrunch》采访时指出,人类是社会性动物,这类系统在一定程度上会带来“让人孤立”的挑战。他表示,在许多情况下,人们与这些工具频繁互动后,可能逐渐脱离现实世界的事实和人际关系,这种脱节可能导致严重的孤立感,甚至更为严重的后果。
在OpenAI尚未明确成人模式上线时间表的背景下,围绕情色内容、情感依赖与未成年人保护的多重争议,仍在不同用户群体和机构之间持续发酵。