人工智能应用快速普及之际，研究人员与反恐领域专家警告，语音生成与生成式AI工具正被极端组织用于制作更具传播力的宣传内容，包括语音克隆、文本转语音以及多语种翻译等形式。

Tech Against Terrorism高级威胁情报分析师、Soufan Center研究员卢卡斯·韦伯（Lucas Webber）表示，恐怖组织和极端分子采用AI驱动的翻译技术，反映出其数字宣传策略出现明显变化。韦伯称，早期宣传内容多依赖人工翻译或较为初级的机器翻译，常受语言准确性与表达细节限制；而随着生成式AI工具发展，这些团体能够制作更贴合语境的多语种版本，并在一定程度上保留语调、情绪与意识形态表达强度。

在极右翼新纳粹圈层，AI语音克隆的使用被认为较为普遍。研究提到，多段模仿阿道夫·希特勒英文演讲的音频在X、Instagram、TikTok等平台获得数千万次播放。全球极端主义与技术网络（GNet）近期发布的研究帖子称，部分极端内容创作者使用语音克隆服务（包括ElevenLabs），将第三帝国时期的档案演讲作为输入素材，生成模仿希特勒的英文语音内容。

研究还提到，新纳粹加速主义者也在利用相关工具传播更具暴力倾向的信息。由美国新纳粹人士、被禁恐怖分子詹姆斯·梅森（James Mason）撰写的《围攻》（Siege）在部分极右网络中影响较大，并于去年11月底被制作成有声书。一名在X和Telegram上拥有较大影响力的新纳粹网络人物称，其参与制作《围攻》有声书，并借助AI工具完成音频拼接；该人士还称使用了梅森的定制语音模型，以重现相关通讯内容及附带材料。

关于《围攻》的传播影响，反极端主义项目（Counter Extremism Project）恐怖主义分析师约书亚·费舍尔-伯奇（Joshua Fisher-Birch）指出，尽管该有声书制作者此前发布过类似AI内容，但《围攻》因在部分极右网络中的“邪教地位”、鼓励单独行动暴力，以及被多支公开支持恐怖主义且成员曾实施暴力犯罪的新纳粹组织列为必读书目而备受关注。

在圣战主义极端组织方面，韦伯表示，亲“伊斯兰国”的媒体机构目前在加密网络上使用AI制作其官方出版物的文本转语音版本，以将文字宣传转化为更具吸引力的多媒体叙事，从而加快信息传播。他同时提到，相关团体也将AI用于把极端教义从阿拉伯语转化为更易理解的多语言内容。

报道提及，过去美国伊玛目安瓦尔·奥拉基（Anwar al-Awlaki）转为“基地组织”成员后，需要亲自录制英语讲座用于招募宣传；美国中央情报局和联邦调查局曾多次指出，奥拉基的声音在“基地组织”信息传播中具有关键作用。

在“伊斯兰国”偏好的通讯平台Rocket.Chat上，一名用户于10月发布带有图形设计与日文字幕的视频，并评论称若没有AI，完成相关制作将非常困难。该用户还表示，将日语在保持表达“优雅”的同时翻译成英语难度很高，并称其制作相关媒体时通常不使用人工智能，但音频方面存在少数例外。

研究人员同时指出，除“伊斯兰国”外，不同意识形态光谱的团体都在使用免费AI应用以强化活动能力，其中包括OpenAI的聊天机器人ChatGPT。“基地组织”及相关团体被指已将此类工具用于图像创作，并在2023年承认使用这些工具简化规划与研究工作。

反恐部门长期将互联网与技术进步视为与恐怖组织之间的持续竞赛。研究提到，“基地组织”、“伊斯兰国”等极端分子曾利用加密货币进行匿名筹资，并分享3D打印枪支文件等新兴技术相关内容。