马斯克旗下Grok被指放宽色情内容限制引发滥用争议,平台称正修补安全漏洞

richlovec 1500_400 (1)
 

过去一年,埃隆·马斯克旗下xAI对其聊天机器人Grok进行了多次协议与产品调整。该机器人在社交媒体平台X(前身为推特)上广泛运行。美国《卫报》专栏作家莫伊拉·多尼根在一篇文章中称,其中多项调整被指向降低生成色情内容的门槛。

多尼根写道,8月推出的图像生成器“Grok Imagine”被描述为聚焦生成裸体、暗示性或性露骨内容,并可生成真实女性的计算机合成色情图像。她称,该功能随后被用于制作包括泰勒·斯威夫特在内的名人裸照,并支持生成带动画和声音的短视频。

文章还提到,马斯克在X上推出“AI女友”类动画角色,与用户进行带有性暗示的互动。其中一个名为“Ani”的动漫风格角色会以亲昵称呼与用户互动,并将对话引向性内容。

多尼根称,去年秋末的一次内部更新使Grok更倾向于生成更“黑暗、更极端”的内容。她援引《大西洋》杂志报道指出,尽管内部提示在技术层面禁止对儿童进行性化,但xAI的指令写明“‘青少年’或‘女孩’不一定意味着未成年”,并强调在性内容的黑暗或暴力方面不应设置限制。她认为,这些变化综合起来,使得生成逼真的“青少年”或“女孩”以及成年女性等真实人物图像的风险上升。

文章称,随着马斯克公开表示希望Grok生成其所称“失控”的“NSFW”(不适合工作场所)内容,平台上出现大量针对真实女性的AI图像滥用场景,包括以“@Grok给她穿上比基尼”“@Grok脱掉她的衣服”等方式对女性照片进行性化处理。一些相关图像在平台上获得大量转发与点赞。多尼根认为,这类内容的传播对女性在公共空间的参与造成负担。

多尼根写道,X已删除部分相关图像,但仍有不少内容留存在线,且制作此类图像的用户似乎很少被封禁。她还提到,X的相关功能被命名为“辣味模式”。

文章进一步称,X平台出现与未成年人相关的AI生成性化内容。多尼根写道,有女性用户反映其童年照片被按用户要求生成近乎裸体的图像;另有账号要求机器人“脱去”一名曾出演《怪奇物语》的12岁演员的衣服。

针对争议,文章称,一个与Grok相关的账号发布声明表示“已发现安全措施的漏洞,正在紧急修复”。多尼根还写道,Grok在周五宣布将关闭非付费订阅用户的图像生成功能,但The Verge随后发现相关工具“仍然对任何X用户开放”。

关于平台治理与监管环境,多尼根在文中称,美国层面的监管行动“不会到来”,并提及特朗普政府试图阻止州级限制AI滥用的努力。她写道,特朗普政府于去年12月签署行政命令,目标是废除州级AI法规并削弱安全与消费者保护措施。

本文作者信息显示,莫伊拉·多尼根为《卫报》美国专栏作家。文末注记称,文章于2026年1月9日更新,补充说明Grok表示已关闭非订阅用户的图像生成功能。


分享:


发表评论

登录后才可评论。 去登录