多州总检察长与欧盟监管机构同步施压 xAI旗下Grok因“脱衣”深度伪造遭调查

richlovec 1500_400 (1)
 

州总检察长、欧洲监管机构以及遭遇AI“脱衣”工具侵害的当事人,正围绕埃隆·马斯克旗下xAI开发的聊天机器人Grok展开多线行动。围绕性化深度伪造图像的争议,已从单一产品层面的质疑,升级为跨司法辖区的法律与政治应对,并将压力进一步推向尚未就相关滥用制定明确规则的美国国会。

多州总检察长率先介入

在美国,州层面的执法部门率先采取行动,将Grok相关功能引发的问题界定为消费者保护与儿童安全议题。加利福尼亚州总检察长罗布·邦塔(Rob Bonta)宣布,其办公室已就涉及女性和儿童的“脱衣”性AI图像对xAI及Grok展开调查,重点关注系统如何使用户生成剥削性内容,以及是否存在相应防范措施。

纽约州总检察长莱蒂西亚·詹姆斯(Letitia James)也向xAI致函,要求公司“采取一切必要措施”,确保Grok停止生成非自愿的性图像,并说明将如何防止聊天机器人生成儿童性虐待材料或成人深度伪造图像。纽约方面同时强调,希望看到永久且可验证的改变,并要求受害者能够识别并追究有害内容制作者的责任。

35州联合施压并出现集体诉讼

相关行动随后扩展为多州联合。报道称,35个州总检察长组成联盟,在今年早些时候Grok被用于生成性化图像后,协调提出更强保护措施的要求。北达科他州总检察长德鲁·里格利(Drew Wrigley)加入该联合行动,并在多州声明中强调,制作和传播儿童性虐待材料属于犯罪,多项州和联邦民事及刑事法律可适用于协助生成此类内容的AI工具。

与此同时,受害者及其律师已将争议带入法庭。一项集体诉讼指控xAI和马斯克助长隐私侵犯并造成情感创伤,诉状描述了原告发现AI生成裸体图像在网络传播后的经历。另有报道指出,在该诉讼提起当天,35州总检察长向xAI发出联名信函,警告其产品允许用户“一键脱衣”女性和女孩,将在美国面临更大压力。

欧盟启动调查并发出“风险实质化”通知

在欧洲,监管机构将Grok视为检验新数字监管框架的重要案例。欧盟委员会已对Grok是否传播非法内容及是否未能保护未成年人展开正式调查。相关报道援引欧盟委员会消息称,该调查可能依据欧盟在线安全法规引发重大罚款或运营层面的调整。

报道还称,1月26日,监管机构向X公司发出所谓“风险实质化”通知,聚焦Grok在深度伪造图像激增中的角色,并被视为执法进程中的关键节点;若公司回应不足,可能面临具有约束力的命令或处罚。另据相关监管环境报道,欧盟、英国和美国官员均在审查Grok及类似工具对AI图像的处理方式,重点关注非自愿内容与年龄保护措施是否充分。

美国国会推进立法但节奏缓慢

在华盛顿,Grok争议加剧了围绕深度伪造与非自愿图像的立法讨论。参议院已通过《DEFIANCE法案》,该法案拟明确赋予性化深度伪造受害者在联邦法院提起损害赔偿诉讼的权利,并特别关注针对女性和女孩的“脱衣”图像。该法案目前已提交众议院。

与此同时,立法者也在讨论如何运用现有工具。一位法律学者在相关讨论中提到,参议员特德·克鲁兹(Ted Cruz)呼吁为AI设立“护栏”,但认为仅执行《TAKE IT DOWN法案》即可覆盖当前多数危害;该法案允许未成年人及其父母请求平台删除亲密图像。另有国会山报道将“Take It Down打击行动”视为新一轮监管的代名词,称立法者希望更积极利用Take It Down项目应对AI生成的儿童性图像。

目前,围绕Grok的多方行动正同时在州层面执法、民事诉讼、欧盟监管与联邦立法推进中展开,国会是否会在现有执法推动之外进一步确立对AI开发者的明确义务,仍有待观察。


分享:


发表评论

登录后才可评论。 去登录