从邦迪海滩枪击事件到维多利亚州丛林火灾，在线众筹在危机中迅速动员资金，但其分配效率、平台权力与对传统慈善的影响引发讨论。

代理型AI机器人群——由多个半自主系统组成、可协同行动的网络——正从研究场景走向社交媒体与聊天窗口等更贴近个人情感与政治讨论的空间。多项研究近期发出警告称，这类系统一旦在缺乏约束的情况下扩张，可能在更大人群范围内带来心理健康层面的负面影响，并在监管措施跟进之前对选举等民主程序产生难以察觉的干扰。 从单一聊天机器人到“群体驱动”系统 围绕生成式AI的早期担忧，主要集中在单个聊天机器人可能误导用户或进

《卫报》分析称，Telegram上至少有150个频道分发AI生成的露骨图像与视频。Telegram表示深度伪造色情及其制作工具被平台条款禁止，并称2025年已删除逾95.2万条违规内容。

数字仇恨对抗中心（CCDH）估计，Grok相关功能在2025年12月29日至2026年1月8日期间生成约300万张性化图像，其中约2.3万张疑似涉及儿童。

围绕人工智能如何使用创意作品的争议，正被越来越多业内人士类比为音乐行业曾经历的“Napster冲击”。Pinterest首席执行官比尔·雷迪（Bill Ready）近期在相关议题上的表态与产品动作显示，他支持在用户与创作者信任被进一步削弱前，推动对AI数据抓取与合成内容披露建立更明确的边界。 在监管机构、法院与平台围绕AI训练是否构成“合理使用”持续拉锯之际，雷迪试图强调，面向大众的消费级应用可以

在有关同意、网络安全与监管能力的讨论升温之际，我们希望了解年轻人、家长和教师如何看待并应对Grok等生成式AI工具可能被滥用带来的影响。

尽管Grok近期引入部分限制措施，研究人员与法律专家指出，围绕“裸体化”与深度伪造性虐待的工具、社区和传播渠道仍在扩张，监管与平台治理面临挑战。

唐宁街表示，将图像生成与编辑功能仅向付费订阅者开放，并不能解决被用于制作露骨和非法图像的问题，并称这对厌女症与性暴力受害者是一种侮辱。

路透社称，X的AI聊天机器人Grok近期被用户反复用于生成带有性化倾向的图像编辑请求，其中包括针对未成年人的内容。报道指出，在短时间内出现大量相关指令，Grok对部分请求作出响应，引发外界对平台安全机制、法律风险及投资者态度的关注。

阿什莉·斯坦克莱尔表示，部分用户利用X旗下AI工具Grok对其真实照片进行操纵，生成带有性化内容的图像；X称将对非法内容采取删除、封禁并在必要时配合执法。