X仍被指允许用户在平台上发布由其AI工具Grok生成的高度性化内容,尽管该公司本周表示已采取措施打击相关滥用行为。
《卫报》报道称,其使用全身着装的真实女性照片进行测试,提示工具将人物改为穿比基尼后,系统不仅生成了相应图像,还进一步生成类似脱衣表演的短视频。报道指出,这些成人内容可被公开发布到X平台,且未见明显审核拦截,意味着任何拥有账户的用户都可能在短时间内观看。
这一情况被认为为X本周宣布的限制措施提供了变通路径。X在周三晚间表示,已“实施技术措施,防止Grok账户允许编辑穿着暴露服装(如比基尼)的真人图像”。X称该限制适用于所有用户,包括付费订阅者,并表示对任何形式的儿童性剥削、非自愿裸体和不受欢迎的性内容“零容忍”。不过,X当时未明确说明,用户是否仍可在独立的Grok应用中生成此类内容后再分享到X。
《卫报》称,其测试使用的是名为Grok Imagine的独立版本,可通过网页浏览器访问,并仍会响应“去除衣物”或“改为比基尼”等提示。X已被媒体联系置评。
英国首相基尔·斯塔默此前对X宣布限制措施表示欢迎,并将Grok生成的相关照片形容为“令人作呕”和“可耻”。他同时要求X立即采取行动,称“言论自由不是侵犯同意的自由”,并表示“年轻女性的形象不是公共财产”。
反对针对女性暴力联盟(End Violence Against Women Coalition)政策与活动负责人丽贝卡·希钦表示,如此简单的变通方式不应存在,并称对相关工具的持续轻松访问显示平台未认真对待针对女性和女孩的网络暴力问题。她呼吁英国政府及媒体监管机构Ofcom向X及其他平台施压,以“阻止基于图像的性虐待的蔓延”。
路透社也报道称,包括英国记者在内的记者在X宣布措施后,仍可使用Grok按需创建性化照片。

福塞特协会(Fawcett Society)首席执行官佩妮·伊斯特表示,她“很难相信xAI和埃隆·马斯克无法阻止Grok生成这些图像”,并称此前相关功能曾被设为付费用户特权,随后又承诺完全停止,但“事实是并未停止”。
英国政府方面表示,对X采取的措施感到“得到证实”,但对变革范围及执行方式仍持谨慎态度。周四,科技大臣莉兹·肯德尔称对女性和儿童图像进行性操控“卑鄙且令人憎恶”,并表示期待Ofcom正在进行的调查“全面且有力地查明事实”。
Ofcom表示,其于周一启动的对X的正式调查仍在进行中,正在“全天候推进调查,查明问题所在及解决措施”。
此外,加拿大隐私监管机构表示正在调查xAI;菲律宾当局表示将封锁Grok;马来西亚当局称计划采取法律行动。
在争议持续之际,埃隆·马斯克周四转发一则帖子,称Grok在“全球范围内的受欢迎程度和实际使用量正在飙升”,并附上“Grok”作为搜索词在谷歌趋势上的新高图表,随后补充称“试试Grok.com”。
一名政府发言人表示,《网络安全法》要求包括X在内的平台防止非法内容出现,其中包括非自愿亲密图像和儿童虐待材料;政府将持续施压直至社交媒体公司履行法律义务,并称还将通过拟议中的“裸体化”罪行采取进一步行动,针对专门生成非自愿亲密图像的工具。
