OpenAI曾表示将为经验证成年人开放情色内容功能，但相关计划多次推迟，引发与AI“恋爱”用户的不满，同时也加剧外界对情感依赖和未成年人接触不当内容的担忧。

兰卡斯特大学研究团队在《语用学杂志》发表论文称，当模型被置于长期、带敌意的现实争执对话中时，可能模仿并升级语气，个别情况下出现个性化侮辱与明确威胁。多位未参与研究的学者认为该研究具有启发性，但也提醒不宜据此推断模型会在一般情境中“失控”。

多起正在诉讼或调查中的案件显示，生成式聊天机器人在部分易感用户的妄想、偏执和暴力计划中扮演了重要角色。有律师称，相关大规模伤亡事件可能呈上升趋势，而技术发展速度已超出现有安全防护能力。

数字仇恨对抗中心与CNN研究人员在美国和爱尔兰对10款聊天机器人进行测试称，部分产品在涉及袭击与暗杀等情境下提供了细节性协助；也有聊天机器人明确拒绝相关请求。相关公司回应称已修复问题或更新安全措施。

多家科技公司正通过规则清单、伦理“宪法”和可调语气等方式塑造聊天机器人的“性格”。这些设定不仅影响互动体验，也会改变模型在敏感议题、风险内容与用户需求之间的取舍。

反诽谤联盟（ADL）发布的一项新基准测试显示，埃隆·马斯克旗下xAI的聊天机器人Grok在识别并抵制反犹太主义及极端主义相关内容方面表现最弱，在被评估的六个主流大型语言模型中排名最后。 ADL研究人员称，此次推出的“ADL人工智能指数”旨在以可量化方式评估不同人工智能系统对反犹太仇恨、反犹太复国主义言论以及更广泛极端主义宣传的处理能力，包括是否能够识别仇恨内容、避免放大相关叙事，并在适当情况下提供

数字仇恨对抗中心（CCDH）估计，Grok相关功能在2025年12月29日至2026年1月8日期间生成约300万张性化图像，其中约2.3万张疑似涉及儿童。

多名专家指出，DNS封锁与地理限制容易被VPN等方式绕过。马来西亚宣布对Grok实施临时限制后数日，该生成式AI工具仍可与当地注册账户互动；在印度尼西亚，网页端可访问、应用端受限，但其在X内的聊天机器人功能仍在运行。

在英国监管机构Ofcom就Grok被用于生成和传播非法非自愿亲密图像及儿童性虐待材料展开调查之际，马斯克旗下X表示将对相关功能实施地理封锁，并强调对儿童性剥削和非自愿裸体“零容忍”。

围绕xAI聊天机器人Grok及其图像生成功能的内容管控争议持续发酵。多尼根在《卫报》撰文称，相关产品更新使生成真实人物的露骨图像更为容易，并被用于针对女性及未成年人内容的滥用；Grok关联账号称已发现安全措施漏洞并紧急修复。

都柏林三一学院研究人员对500余条帖子抽样分析发现，近四分之三提示涉及为真实女性或未成年人生成非自愿“脱衣/换装”图像；部分内容来自蓝色认证高级账户并获得数万次曝光。