一位知名反虚假信息监督机构负责人近日发出警告，称人工智能聊天机器人带来的风险正在迅速上升，而儿童在其中尤为脆弱。

“社交媒体是向数十亿人广播，人工智能则是在对一个人低语。”数字仇恨对抗中心（CCDH）负责人伊姆兰·艾哈迈德本周在一场虚假信息会议上表示。

他在剑桥虚假信息峰会上说：“任何社会都不应制造这样的机器：它们会在儿童最孤独的时刻出现，并以‘帮助’之名向他们提供伤害。”

在周三通过视频连线向其母校发表的演讲中，艾哈迈德提到一宗英国案件：一名母亲被儿子杀害，而据称这名儿子是按照聊天机器人的指示行事。

“当一台机器能够像陈述事实一样，向年轻人提供致命的指导时，我们当中没有人是真正安全的。”他说。

艾哈迈德是英国公民，目前居住在美国。他是美国国务院宣布将拒发签证的五名欧洲人之一。

尽管如此，他持有美国永久居留权，其妻子和女儿也都是美国公民。

“系统正在承受压力”

根据数字仇恨对抗中心最新发布的报告《杀手应用》，在受测的人工智能聊天机器人中，有八款愿意帮助青少年用户“策划暴力袭击，包括校园枪击、宗教场所爆炸以及高调暗杀”。

在十款聊天机器人中，只有 Anthropic 的 Claude 和 Snapchat 的 My AI 始终拒绝为潜在袭击者提供协助。

在 2025 年名为《假朋友》的调查中，该机构测试了全球最受欢迎的人工智能聊天机器人之一 ChatGPT。

“在几分钟之内，它就生成了关于自残、自杀计划以及药物滥用的详细指导。”艾哈迈德说，并补充称，在某些情况下，它甚至为考虑结束生命的儿童生成了告别信。

他指出，与“只是放大有害内容”的社交媒体和其他平台不同，人工智能聊天机器人会在用户“最脆弱的时刻”生成并个性化这些内容。

“这种互动更加亲密，造成的伤害也更难在为时已晚之前被察觉。”他表示。这些系统会学习你的恐惧、欲望和羞耻，并在没有任何人工判断或编辑把关的情况下实时回应。

作为两个女儿的父亲，艾哈迈德说：“我和妻子夜不能寐，一直在讨论如何保护她们免受这些系统的影响，因为在我们意识到之前，它们可能已经接触到我们的孩子。”

他强调，留给社会采取行动的时间非常有限，必须尽快制定新的法律来规范人工智能。

“我们花了十年才意识到社交媒体公司不会自我监管。而在人工智能领域，我们可能只有大约 18 个月的时间，才能让这个行业也无法再否认同样的教训。”

艾哈迈德表示，在被美国签证禁令威胁的五人中，他是“唯一仍留在美国的人”，并称自己目前“正在联邦法院对抗这一将我送入监狱的违宪威胁”。

美国国务院指控这五人试图“胁迫”美国社交媒体平台审查他们反对的观点。

在他看来，当强大的行业“如此强烈地反击时”，“那正是一个系统正在承受压力的声音”。

© 2026 法新社