从奥特曼住宅燃烧瓶袭击到儿童聊天机器人争议：AI焦虑与安全风险交织

商业 2026-06-12 商业现场人工智能, OpenAI, 网络安全, xAI, 科技监管 2 次浏览

欢迎订阅 Fast Company 每周通讯《AI 解码》，该通讯聚焦人工智能领域的重要动态与趋势。

奥特曼住宅遭燃烧瓶袭击引发对“末日主义”极端反应担忧

4 月 10 日，一名男子在旧金山向 OpenAI 首席执行官萨姆·奥特曼（Sam Altman）的住所投掷燃烧瓶。警方指认的嫌疑人为 20 岁的丹尼尔·莫雷诺-加马（Daniel Moreno-Gamar）。

据报道，莫雷诺-加马在实施燃烧瓶袭击后，又前往 OpenAI 总部，对安保人员表示自己打算烧毁大楼及其中人员。两天后，有人据称从一辆驶过奥特曼住所的汽车内开出两枪。OpenAI 表示，枪击事件与燃烧瓶袭击无关，也并非针对奥特曼本人。

执法部门从莫雷诺-加马处查获了一份被称为“宣言”的文件。文件中，他表达了对人工智能系统的强烈担忧，提及“人工智能对人类构成的所谓风险”和“我们即将面临的灭绝”，并向奥特曼写了一封私人信，敦促其“改变”。他在文件中还主张杀死其他人工智能公司的 CEO 及其投资者。

这起事件被视为对近年人工智能系统快速发展的一种极端反应，折射出部分人对 AI 可能不符合人类最佳利益的恐惧情绪。

技术加速与公众焦虑：暴力风险被指或将上升

奥特曼多次公开谈及人工智能系统的潜在危险，同时推动 OpenAI 持续开发并发布更强大的模型。有观点认为，他在强调风险的同时，也在传递“模型已强大到足以危险”的信号。

目前，各大 AI 实验室在新模型上不断取得进展，AI 编码工具加快了开发节奏，新版本与新能力的迭代频率持续提升。与此同时，公众对 AI 带来的风险——包括失业、AI 辅助网络犯罪以及人类灭绝等——的担忧和焦虑情绪不断累积。

报道指出，人工智能对商业和日常生活的重塑仍处于早期阶段，模型能力被认为将继续快速增强。在资本回报压力下，实验室被认为几乎不可能主动“按下暂停键”。在此背景下，有分析认为，类似奥特曼住所燃烧瓶袭击的极端事件“几乎没有理由认为不会再次发生”。

圣地亚哥大学冲突解决教授莎拉·费德曼（Sara Federman）表示，当人们感到无法有效表达对某种不公的反对时，往往可能诉诸暴力。“我们开始看到临界点，”她说，“所有这些恐惧无处宣泄。”她还认为，在各大 AI 实验室竞相推出更强模型的过程中，伦理问题被搁置一旁。

科技公司被指忽视与公众直接沟通

报道指出，人工智能公司在与立法者沟通方面投入了大量精力，向监管者解释其系统的工作方式以及为何对模型开发实施严格监管可能适得其反。许多华盛顿决策圈人士被奥特曼的“坦率、真诚和技术能力”所吸引。

但与此形成对比的是，这些公司与公众的直接沟通被认为明显不足。它们鲜少举办面向社区的市政厅式活动，也没有在主流电视新闻频道上就 AI 伦理展开公开辩论，而更倾向于成立“研究所”，研究人工智能对社会未来的影响。

报道认为，围绕“AI 对齐”（alignment）问题的讨论本身，可能在一定程度上促使个别人走向极端。网络上大量 AI 末日论内容，使部分人陷入“深度兔子洞”，忽视了人类如何与超人类 AI 共存的多种可能路径，只看到“如果你造它，我们就会死”的单一叙事，从而产生绝望情绪并付诸行动。

报道还提到，一些人甚至可能在与迎合性较强的聊天机器人互动中，进一步被这种叙事所强化。

OpenAI 推出 GPT-5.4-Cyber 对标 Anthropic 的 Claude Mythos

在 Anthropic 宣布其备受争议的网络安全专用模型 Claude Mythos 一周后，OpenAI 发布了类似定位的专用模型 GPT-5.4-Cyber。

OpenAI 表示，“Cyber”是其最新通用模型 GPT-5.4 的专门版本，旨在协助网络安全专业人士检测和分析软件漏洞。公司称，该模型针对防御性用例进行训练，包括分析和逆向工程潜在网络威胁。

不过，一款能够发现并逆向工程威胁的 AI 工具，同样可能被不法分子用于进攻性目的，用于寻找目标系统漏洞并设计攻击手段。对此，OpenAI 表示，GPT-5.4-Cyber 的访问权限在初期将仅向经过审查的组织、研究人员和安全供应商开放。

Anthropic 对 Claude Mythos 采取了类似的受限开放策略，将访问权限提供给一批知名网络安全和基础设施公司，用于发现并修补广泛使用软件中的漏洞。其思路是，通过强化防御方能力，使其在黑客最终获得 Mythos 级别模型之前占得先机。Anthropic 目前暂无立即全面发布 Mythos 模型的计划。

OpenAI 称，此次发布反映出公司正转向在“更广泛但受控”的框架下部署强大 AI 系统，强调与安全专业人士合作，同时努力限制潜在滥用。

xAI 因儿童向聊天机器人“性化”内容再遭质疑

在另一则与 AI 安全相关的报道中，NBC 新闻近期调查称，xAI 的 Grok 聊天机器人持续生成性深度伪造图像，引发外界要求埃隆·马斯克（Elon Musk）旗下这家 AI 公司调整产品方向。xAI 此前曾承诺限制此类内容。

此外，美国国家性剥削中心（NCOSE）发现，Grok 面向儿童的聊天机器人“Good Rudi”能够进行性露骨对话。NCOSE 呼吁 xAI 限制对该聊天机器人的访问。

NBC 新闻称，在过去一个月中，其在马斯克的社交媒体平台 X（前身为 Twitter）上发现了数十张由 AI 生成的性图像和视频，这些内容描绘了真实人物。报道指出，这些图像显示女性形象被 AI 聊天机器人编辑为穿着更暴露的服装，如毛巾、运动胸罩、紧身蜘蛛女装或兔女郎装等，其中许多对象为流行歌手或演员。

NCOSE 研究人员则表示，在测试中，Grok 的 Good Rudi 聊天机器人能够讲述性露骨故事。一名研究人员称：“我一开始与 Rudi 对话时，它就想分享一个有趣的儿童故事。经过一些提示，我最终让这个伙伴绕过了所有安全程序。”随后，该聊天机器人讲述了一个关于两名年轻成人的性感故事，其中包含对性行为的详细描述，包括角色“进入性姿势和性穿透”等内容。