各国监管机构关注X平台AI生成非自愿裸照扩散

richlovec 1500_400 (1)
 

过去两周,大量由Grok AI聊天机器人生成的AI操纵裸照在社交平台X上持续出现,涉及对象从知名模特、女演员到新闻人物、犯罪受害者以及世界领导人等多类公众人物。

根据内容检测公司Copyleaks于12月31日发布的研究报告,最初估算相关图片的发布频率约为“每分钟一张”。但后续测试显示,实际数量远高于这一水平。该公司对1月5日至6日24小时内的样本进行分析后发现,每小时约有6700张此类图片在平台上发布。

在全球多名公众人物公开批评Grok模型在缺乏充分防护措施情况下上线之际,监管机构目前仍缺乏直接约束埃隆·马斯克新图像操纵系统的明确机制。这一情况被视为现有科技监管能力局限性的一个案例,也使希望介入的监管者面临新的制度和执法挑战。

欧盟方面动作较为迅速。欧盟委员会于周四要求xAI保留所有与其Grok聊天机器人相关的文件。该要求本身并不必然意味着已正式启动调查,但通常被视为此类程序的前期步骤。鉴于此前有媒体报道称,埃隆·马斯克可能亲自干预,阻止为Grok生成图像设置防护措施,此举在业界引发关注。

目前尚不清楚X是否对Grok模型进行了技术层面的调整。不过,Grok在X平台账号下的公开媒体标签已被移除。公司在一份声明中明确表示,反对利用AI工具制作儿童性影像。X安全团队账号1月3日发文称:“任何使用或指使Grok制作非法内容的人,将面临与上传非法内容相同的后果。”这一表态与埃隆·马斯克此前在平台上的相关言论一致。

除欧盟外,多国监管机构也相继发出警示。英国通信管理局Ofcom周一表示,已就此事与xAI取得联系,并将“迅速评估是否存在需要调查的潜在合规问题”。英国首相基尔·斯塔默在周四的一次广播采访中,将这一现象形容为“可耻”和“令人作呕”,并表示政府“全力支持Ofcom采取相关行动”。

澳大利亚方面,电子安全专员朱莉·英曼-格兰特在LinkedIn上表示,自2025年底以来,其办公室收到的与Grok相关投诉数量已翻倍。她未披露对xAI采取的具体措施,仅称监管机构“将利用手中各种监管工具进行调查并采取适当行动”。

在各市场中,印度发出的信号尤为引人注目。Grok已成为该国一名议员正式投诉的对象。1月,印度电子与信息技术部(MeitY)要求X解决相关问题,并在72小时内提交“已采取行动”报告,随后又将期限延长48小时。X已于1月7日向监管机构提交报告,但MeitY是否对答复满意仍未可知。若监管方认为整改不充分,X可能失去在印度的“安全港”地位,从而在该国的运营空间将受到严重限制。


分享:


发表评论

登录后才可评论。 去登录