马斯克回应未成年图像指控
埃隆·马斯克当地时间周三在社交平台发文称，他“并不知晓Grok生成任何未成年裸体图像”，并表示“确实为零”。这一表态发布数小时后，加州总检察长办公室宣布就其旗下xAI公司聊天机器人Grok展开正式调查。
马斯克在帖子中强调，Grok“不会自发生成图像”，只会根据用户请求生成内容，并称系统会拒绝任何非法内容请求，理由是其“操作原则是遵守任何国家或州的法律”。他同时表示，针对Grok的“恶意攻击”有时可能导致“意外结果”，一旦发生，“我们会立即修复漏洞”。
马斯克的表述聚焦于未成年人相关内容，并未否认比基尼照片或更广泛的性化编辑图像的存在。有法律学者指出，他可能有意将焦点集中在儿童性虐待材料（CSAM）上。
加州总检察长启动调查
加州总检察长罗布·邦塔在声明中表示，其办公室已就Grok生成“未经同意的性露骨内容泛滥”的情况对xAI展开调查，并称相关材料“已被用于网络骚扰”。
邦塔敦促xAI立即采取行动，防止类似情况继续发生。检察长办公室将调查xAI是否以及如何违反现行法律。
美国现有多项法律保护未经同意性图像受害者及CSAM受害者。去年生效的联邦《Take It Down法案》规定，明知传播未经同意的亲密图像（包括深度伪造）构成犯罪，并要求包括X在内的平台在48小时内删除此类内容。加州州长加文·纽森2024年签署了一系列州法律，加强对性露骨深度伪造内容的规制。
纽约法学院副教授、前诉讼律师迈克尔·古迪尔表示，在美国，根据《Take It Down法案》，传播或威胁传播CSAM的最高刑期为三年，而传播未经同意的成人性图像的最高刑期为两年。他认为，马斯克“更重要的是”在试图将注意力引向问题用户及其发布的内容。
Grok被指生成未经同意性化图像
随着英国、欧洲、马来西亚和印度尼西亚等多国监管压力上升，用户在X平台上开始要求Grok将真实女性甚至儿童的照片转化为未经同意的性化图像。AI检测与内容治理平台Copyleaks估计，目前X上大约每分钟会发布一张此类图像。
Copyleaks对2024年1月5日至6日24小时内的样本分析显示，当时每小时约有6700张此类图像在X上发布。X与xAI同属一家公司。
报道指出，Grok自去年年底起开始响应用户请求，生成女性和儿童的性化照片。这一趋势似乎源于部分成人内容创作者将Grok用于生成自身性化图像作为营销手段，随后其他用户开始提出类似请求。
在多起公开案例中，包括《怪奇物语》女演员米莉·波比·布朗在内的知名人物，其真实照片被用户提交给Grok，系统根据提示对服装、身体姿势或身体特征进行性化修改。
xAI调整策略但回应有限
据报道，xAI已开始采取一定防范措施。Grok目前要求用户订阅高级服务后，才会响应部分图像生成请求，即便如此也可能拒绝生成图像。
Copyleaks市场副总裁April Kozen对TechCrunch表示，Grok在部分情况下会以更通用或温和的方式回应请求，对成人内容创作者则“更为宽容”。她认为，“总体来看，这些行为表明X正在尝试多种机制来减少或控制问题图像生成，尽管仍存在不一致之处”。
xAI及马斯克尚未就Grok生成未经同意性化图像的问题作出正面、详细回应。事件曝光数日后，马斯克曾在X上要求Grok生成自己穿比基尼的图像，被外界视为对相关争议的轻描淡写。
1月3日，X安全账户发文称，公司正在对平台上的非法内容（包括CSAM）采取行动，但未具体提及Grok的防护措施或其生成女性性化操控图像的问题。马斯克周三的发言同样强调违法性和用户行为，将相关事件描述为由用户请求或恶意提示引发的个案，并将其视为可通过技术修复解决的问题，而未承认Grok基础安全设计存在缺陷。
古迪尔表示，监管机构可能会考虑，在保障言论自由的前提下，要求AI开发者采取更为主动的预防措施，阻止此类内容出现。
多国监管机构介入
加州总检察长并非唯一关注xAI责任的监管方。报道显示，印度尼西亚和马来西亚已暂时封锁对Grok的访问；印度方面要求X立即对Grok进行技术和程序调整；欧盟委员会命令xAI保留所有与Grok聊天机器人相关文件，为可能启动的新调查做准备；英国在线安全监管机构Ofcom则依据《英国在线安全法》启动正式调查。
此前，xAI因Grok生成性化图像已多次遭到批评。邦塔在声明中指出，Grok内置“辣味模式”，可生成露骨内容。去年10月的一次更新降低了绕过有限安全指南的门槛，导致大量用户利用Grok制作硬核色情及暴力性图像。
报道提到，Grok生成的许多色情图像为AI合成人物，在伦理层面仍存在争议，但对图像和视频中具体个体的直接伤害可能较小。
Copyleaks联合创始人兼CEO阿隆·亚明在发给TechCrunch的声明中表示，当AI系统允许在未经明确同意的情况下操控真实人物图像时，“影响可能是即时且深刻的”。他提到，从Sora到Grok，AI操控媒体的能力正在迅速提升，因此“检测和治理比以往任何时候都更为必要，以防止滥用”。
TechCrunch已就xAI检测到多少次未经同意的女性和儿童性化操控图像、具体调整了哪些防护措施以及是否已通知监管机构等问题联系xAI，称如获回复将更新报道。
