不止Grok:应用商店仍可下载多款“脱衣”AI工具引发监管关注

richlovec 1500_400 (1)
 

Grok争议将“脱衣”工具推至台前

X平台上与Grok相关的AI图像编辑功能因生成露骨深度伪造内容而引发舆论关注。不过,多份调查与监督报告指出,这类争议并非孤立事件:在被用户普遍视为“经过审核”的主流移动应用商店中,类似的AI“脱衣”工具已长期存在,并以更隐蔽的方式面向公众分发。

监督审计:App Store与Google Play被指存在数十款相关应用

据监督组织TTP在今年1月对主要应用商店的审查结果,苹果App Store内发现47款、谷歌Google Play内发现55款被其认定为促进“未经同意性化”的应用。相关应用往往使用含蓄的品牌名称与委婉描述,但核心卖点集中在“去除衣物”或将上传照片生成更“性感”的版本。

另有报道指出,这些应用不仅能够上架,还能通过订阅与应用内购买实现商业化,并在部分情况下获得版本更新审批。与此同时,有媒体称,在App Store中以“脱衣”“脱掉”等关键词检索,仍可见多款同类应用处于可下载状态。

受害者影响与未成年人风险被提及

围绕“脱衣”工具的报道提到,一些受害者发现自己的面部被合成到露骨身体上,或社交媒体上的普通照片被处理为逼真的裸体图像,并在群聊或匿名论坛传播。

在对应用商店列表的调查中,还有信息显示,部分工具被用于生成儿童的AI性化图像。相关报道认为,仅限制单一平台或单一工具的访问,难以阻断未经同意性化图像的扩散,因为同类产品已在移动应用分发渠道中形成更广泛的供给。

审核机制遭质疑:下架被指偏被动

苹果与谷歌长期强调应用商店相较开放网络更安全,并设有审核流程。但在上述审查结果公布后,外界质疑其审核与执法存在缺口:开发者可通过模糊措辞与暗示性包装规避识别,而平台往往在舆论压力上升后才采取下架或限制措施。

据报道,在TTP发布审查后,苹果移除了该组织标记的部分应用;谷歌也开始对Google Play上的类似产品进行限制。不过,同期仍有报道指出,App Store内仍可检索到多款相关应用,显示治理可能尚未形成系统性覆盖。

立法者施压:要求将X与Grok移出应用商店

Grok事件也引发政治层面的联动行动。多名立法者致信苹果与谷歌,敦促其将X与Grok从应用商店下架,称继续提供下载渠道可能意味着平台从便利制作与传播未经同意性内容的工具中获利。

报道显示,俄勒冈州参议员Ron Wyden与本·雷·卢汉(Ben Ray Luján)为联署者之一。女性权益团体亦公开呼吁苹果与谷歌采取更强硬措施,强调女性在AI生成性图像滥用中承受更大冲击。

国会推进相关法案:为受害者提供诉讼路径

在监管与政策层面,参议院已一致通过一项立法,允许露骨深度伪造图像的受害者起诉制作或传播者。相关报道指出,该法案建立在此前已将“故意发布未经同意亲密图像”定为联邦犯罪的法律基础之上,并被视为对AI工具带来新型侵害方式的补充。

同一波行动中,立法者对应用商店的态度也出现变化:分发渠道被更多视为深度伪造供应链的一环,而非中立的销售平台。

“TAKE IT DOWN”框架:拟建立通知与移除机制

除上述法案外,联邦层面还在推动“TAKE IT DOWN”相关规则框架。相关法律解读称,该框架将要求网站与在线服务建立明确流程,供受害者提出移除未经同意亲密图像(包括AI生成图像)的请求。

报道提到,该机制拟要求相关平台在2026年5月19日前落实通知与移除流程,未按有效请求处理的企业可能面临处罚。

州层面规则加速:科罗拉多AI法案与应用商店责任议题

法律分析人士指出,在联邦层面推进的同时,美国多州也在加快制定与AI系统及平台责任相关的规则,形成更复杂的合规环境。其中,科罗拉多AI法案计划于2026年6月生效,预计将对“高风险AI系统”的开发者与部署者提出透明度与问责要求,外界认为可能涉及“脱衣”类工具。

此外,州政府也在推动将应用商店视为“负责任中介”的规则,要求其建立投诉渠道、核查合规并在必要时移除或屏蔽促进非法活动的应用。报道提到,路易斯安那州ASA法案仍在审议中,预计于2026年5月6日生效。

争议焦点:仅限制Grok难以覆盖更广泛供给

多份报道与审查结论共同指向,若仅针对Grok或X采取限制措施,可能只能减少一个高曝光来源,但无法解决主流应用商店内仍可获取的“脱衣”工具供给问题。在相关应用价格低、操作门槛低且以娱乐化方式包装的情况下,监管机构与立法者正将应用商店纳入更完整的治理框架之中。


分享:


发表评论

登录后才可评论。 去登录