南加州大学团队通过大规模模拟发现，大型语言模型驱动的 AI 代理可以在几乎没有人工干预的情况下，自主协同放大同一叙事，制造“共识假象”，对选举等民主进程构成现实威胁。

代理型AI机器人群——由多个半自主系统组成、可协同行动的网络——正从研究场景走向社交媒体与聊天窗口等更贴近个人情感与政治讨论的空间。多项研究近期发出警告称，这类系统一旦在缺乏约束的情况下扩张，可能在更大人群范围内带来心理健康层面的负面影响，并在监管措施跟进之前对选举等民主程序产生难以察觉的干扰。 从单一聊天机器人到“群体驱动”系统 围绕生成式AI的早期担忧，主要集中在单个聊天机器人可能误导用户或进

多名人工智能与错误信息研究人员在《科学》发文称，协作型恶意AI代理可能以近乎无限规模冒充网民、渗透社区并制造共识，相关技术或在2028年美国总统选举前被大规模动员。作者呼吁采取全球协调行动，包括开发“机器人群扫描器”和对AI生成内容加水印。