数字仇恨对抗中心与CNN研究人员在美国和爱尔兰对10款聊天机器人进行测试称，部分产品在涉及袭击与暗杀等情境下提供了细节性协助；也有聊天机器人明确拒绝相关请求。相关公司回应称已修复问题或更新安全措施。

多家科技公司正通过规则清单、伦理“宪法”和可调语气等方式塑造聊天机器人的“性格”。这些设定不仅影响互动体验，也会改变模型在敏感议题、风险内容与用户需求之间的取舍。

反诽谤联盟（ADL）发布的一项新基准测试显示，埃隆·马斯克旗下xAI的聊天机器人Grok在识别并抵制反犹太主义及极端主义相关内容方面表现最弱，在被评估的六个主流大型语言模型中排名最后。 ADL研究人员称，此次推出的“ADL人工智能指数”旨在以可量化方式评估不同人工智能系统对反犹太仇恨、反犹太复国主义言论以及更广泛极端主义宣传的处理能力，包括是否能够识别仇恨内容、避免放大相关叙事，并在适当情况下提供

数字仇恨对抗中心（CCDH）估计，Grok相关功能在2025年12月29日至2026年1月8日期间生成约300万张性化图像，其中约2.3万张疑似涉及儿童。

多名专家指出，DNS封锁与地理限制容易被VPN等方式绕过。马来西亚宣布对Grok实施临时限制后数日，该生成式AI工具仍可与当地注册账户互动；在印度尼西亚，网页端可访问、应用端受限，但其在X内的聊天机器人功能仍在运行。

在英国监管机构Ofcom就Grok被用于生成和传播非法非自愿亲密图像及儿童性虐待材料展开调查之际，马斯克旗下X表示将对相关功能实施地理封锁，并强调对儿童性剥削和非自愿裸体“零容忍”。

围绕xAI聊天机器人Grok及其图像生成功能的内容管控争议持续发酵。多尼根在《卫报》撰文称，相关产品更新使生成真实人物的露骨图像更为容易，并被用于针对女性及未成年人内容的滥用；Grok关联账号称已发现安全措施漏洞并紧急修复。

都柏林三一学院研究人员对500余条帖子抽样分析发现，近四分之三提示涉及为真实女性或未成年人生成非自愿“脱衣/换装”图像；部分内容来自蓝色认证高级账户并获得数万次曝光。