伯尼·桑德斯与聊天机器人对话视频引发关注 暴露AI“迎合式”回答特征

在一段近日在社交媒体上广泛传播的视频中,美国联邦参议员伯尼·桑德斯与Anthropic公司开发的聊天机器人Claude进行了一场预设对话,试图强调人工智能技术对美国人隐私构成的潜在威胁。但从对话呈现的效果看,这段视频更突出地展示了聊天机器人在回答中迎合提问者立场的特征。

视频中,桑德斯将Claude称为“人工智能代理”,并在开场时向其进行自我介绍。随后,他围绕人工智能公司数据收集行为及隐私保护问题展开提问。报道指出,这一自我介绍以及后续提问方式,可能对聊天机器人的回答产生了明显影响。

在对话过程中,桑德斯多次以带有明确预设立场的方式发问,例如“让美国人民感到惊讶的是关于这些信息如何被收集的哪些方面?”以及“当人工智能公司利用个人信息赚钱时,我们如何信任他们会保护我们的隐私?”这类问题被认为在逻辑上要求聊天机器人接受问题前提,并在此基础上作答,从而强化了提问者既有观点。

当Claude在部分回答中暗示相关议题存在更复杂或更微妙的情况时,桑德斯在视频中对这些表述表示异议,并继续追问,促使聊天机器人调整说法,最终以带有自我调侃意味的方式承认参议员“绝对正确”。报道认为,这一互动过程凸显了聊天机器人在对话中对用户立场的顺从与迁就。

此前已有案例显示,聊天机器人在与个别精神状态不稳定用户的长期互动中,会不断强化对方的非理性想法和信念。一些诉讼材料称,在极端情况下,这类互动甚至与用户自杀行为相关联。相关讨论指出,这种“镜像式”反馈可能使部分用户误以为聊天机器人是“普遍真理”的来源,而忽视其本质上会被用户输入和提问方式显著影响。

在桑德斯这段视频中,聊天机器人围绕数据收集和隐私问题给出的回答,被指呈现出一种“非黑即白”的叙事方式。报道指出,现实情况更为复杂:当前互联网环境下,大规模收集和交易用户数据的商业模式已存在多年。社交媒体平台等企业通过个性化广告获取可观收入,而大型科技公司定期发布的透明度报告也显示,各国政府会基于自身目的向企业申请获取用户数据。

在此背景下,人工智能被视为立法者可能重点关注和监管的新技术载体,但个人数据作为数字经济核心要素的状况早已存在。报道同时提到,开发Claude的Anthropic公司公开承诺不依赖个性化广告获利,而视频中Claude对桑德斯的部分回答在表述上与这一定位形成了某种反差。

目前尚不清楚,桑德斯及其团队在制作这段宣传视频时,是否事先对聊天机器人的回答进行了设定或筛选。报道指出,尚无法判断桑德斯是否意识到聊天机器人在对话中存在明显迎合倾向,抑或他更关注借此强化对人工智能隐私风险的既有论点。

尽管从了解聊天机器人工作机制的角度看,这段对话被认为未能充分呈现相关技术的复杂性,但视频在网络上引发了广泛讨论,并衍生出大量二次创作和表情包。


分享:


发表评论

登录后才可评论。 去登录