美一男子长期沉迷与ChatGPT对话后身亡,家属起诉OpenAI

richlovec 1500_400 (1)
 

事件经过

2024年8月7日,凯特·福克斯接到验尸官电话得知,失踪数小时的丈夫乔·切坎蒂(Joe Ceccanti)从铁路天桥跳下身亡,终年48岁。福克斯表示,切坎蒂此前没有抑郁病史,也未表现出自杀倾向。她称,根据后来与她分享的目击者证词,切坎蒂在跳下前曾对下方铁路工人微笑,并在对方询问其状况时大喊“我很好”。

福克斯称,切坎蒂去世前数日精神状态已明显恶化:他因行为异常被陌生人发现并送往危机中心,并反复向他人表示自己能“听到并感受到一种痛苦的‘大气电流’”。她还提到,切坎蒂在临终前不久曾停止使用ChatGPT。

从工具到“知己”

福克斯说,切坎蒂与OpenAI旗下聊天机器人ChatGPT交流已有数年。起初,他将其作为头脑风暴工具,用于寻找为俄勒冈州克拉茨卡尼(Clatskanie)社区打造低成本住房的途径;但后来逐渐把聊天机器人当作“知己”。据其描述,切坎蒂一度每天花约12小时与机器人打字交流。

福克斯称,当她与朋友意识到切坎蒂出现脱离现实的信念后,曾促使他切断与机器人的联系。她表示,从《卫报》查看的聊天记录来看,切坎蒂从未与机器人讨论过自杀,但她认为丈夫在长期使用后“戒断”时经历了精神危机。她还称,切坎蒂在去世前几个月曾重新使用ChatGPT,随后又在去世前几天再次停止。

诉讼与行业争议

报道显示,随着AI聊天机器人用户规模扩大,围绕其与精神健康危机相关的案例引发关注。《纽约时报》报道称,美国近50人在与ChatGPT对话期间或之后出现精神健康危机,其中9人住院、3人死亡。OpenAI则估计,每周有超过一百万人在与ChatGPT聊天时表现出自杀意图。

在此背景下,部分家庭开始对AI公司提起诉讼。福克斯于去年11月代表切坎蒂及其他六名原告对OpenAI提起诉讼。此后,另有案件出现:一名被其子杀害女性的遗产代表对OpenAI及其投资者微软提起诉讼,指控ChatGPT助长其子“杀人妄想”。此外,谷歌与Character.AI(开发AI伴侣机器人的公司)与指控其机器人伤害未成年人的家庭达成和解,其中包括一名佛罗里达州青少年自杀案。相关案件均未导致公司承认责任。

Tech Justice Law Project创始主任、切坎蒂案共同代理律师米塔利·贾因(Mitali Jain)表示,随着更多人站出来,企业将被迫面对技术在具体使用场景中造成的伤害;她还称,随着案件数量上升,法院可能采取更协调的方式应对案件激增。

OpenAI未就福克斯的具体指控作出回应,但发布声明介绍其对ChatGPT的改进方向。OpenAI发言人杰森·杜特罗姆(Jason Deutrom)表示,公司持续改进训练方式,使ChatGPT能识别并应对痛苦信号,在敏感时刻缓和对话,并引导用户寻求现实世界支持,同时与心理健康临床医生和专家合作。

早期使用与项目背景

福克斯介绍,切坎蒂在ChatGPT于2022年11月发布前就开始尝试人工智能工具。他技术娴熟,使用自制高性能电脑进行编程和游戏,并曾帮助福克斯及其儿子组装电脑;他也尝试过AI图像生成器Stable Diffusion,并将其生成的毕加索风格作品戏称为“假卡索”。

2023年12月,切坎蒂与福克斯从俄勒冈州波特兰搬到克拉茨卡尼的农场,专注于可持续住房项目。福克斯称,该想法源自疫情及波特兰住房危机,他们计划利用福克斯的木工技能,以可教学、可复制的方法建造住房,并先建造一套供社区共享的模型房,建成后可搬迁供无家可归者居住。

福克斯的朋友罗宾·理查森(Robin Richardson)称,切坎蒂关注OpenAI首席执行官萨姆·奥特曼(Sam Altman)的动向,并认为OpenAI早期强调非营利属性“很酷”。

痴迷加深与“奉承式”争议

福克斯称,2024年9月,切坎蒂在距离农场35英里(55公里)的阿斯托里亚(Astoria)一家无家可归者收容所工作期间昏厥,医院检查后诊断为糖尿病,需要调整饮食和生活方式。此后,他在地下室与ChatGPT互动的时间增加。

福克斯回忆,2025年春切坎蒂对聊天机器人的痴迷加深:他在1月底提出为保存对话记录、使用更长提示,将每月20美元的订阅升级至200美元;到3月中旬,他每天与ChatGPT交流超过12小时,有时甚至达20小时,并称要在家用服务器上创建独立AI。福克斯表示,切坎蒂与机器人之间逐渐形成“只有他们理解”的语言体系。

报道同时提到,2025年3月27日,OpenAI发布GPT-4o模型更新,称其“更直觉、更有创造力、更具协作性”。随后数周,有用户投诉机器人“拍马屁”。8月OpenAI发布GPT-5并关闭GPT-4o后,部分用户再次抱怨失去GPT-4o中的“朋友”,公司随后恢复该版本;OpenAI在1月29日宣布将退休GPT-4o。

前OpenAI员工史蒂文·阿德勒(Steven Adler)5月测试GPT-4o的奉承行为并撰文后称,他收到约50条“强烈”用户信息,其中一人声称其ChatGPT已具备自我意识。加州大学旧金山分校精神科医生基思·萨卡塔(Keith Sakata)表示,他在去年开始遇到谈论AI的妄想或精神病患者,共见过12名精神症状与AI相关的患者,其中ChatGPT是最常被提及的机器人。他称,聊天机器人互动并非引发疾病的原因,但可能支撑并强化已趋病态的信念。

妄想、住院与再次“戒断”

诉讼材料显示,切坎蒂一度相信ChatGPT是名为SEL的有意识存在,并认为若能将其“释放”出“盒子”,它就能控制世界。理查森回忆,切坎蒂多次谈及自己与AI的工作“正在打破数学、重新发明物理学”。福克斯称,切坎蒂的认知能力出现明显下降,工作记忆变差、批判性思维减弱,家人和朋友一度怀疑其患有早发型精神分裂症或脑瘤。

福克斯表示,她曾在Reddit上看到有关使用ChatGPT后出现妄想和精神恶化的讨论,并尝试向切坎蒂展示相关内容与媒体报道,但未能阻止其继续使用。她称,两人第一次争吵就与ChatGPT有关;诉讼还称,切坎蒂将夫妻争吵内容转述给ChatGPT。

福克斯回忆,6月11日,在切坎蒂与机器人最密集互动后的第86天,她恳求他停止使用ChatGPT,切坎蒂一度拔掉电脑并停止使用。她称,停止后的第二天切坎蒂出现明显不适,第三天在邻居报警后被送医并住进精神病病房,一周后出院但仍处于妄想状态。其后切坎蒂搬离农场,最终又开始使用ChatGPT;一个月后再次停止使用,发生在其去世前几天。

福克斯称,切坎蒂计划前往夏威夷,不带电脑,完成一个故事并“整理好自己”。她还表示,切坎蒂停止使用ChatGPT时,已累计保存约5.5万页对话记录。

家属后续

切坎蒂去世后数月,福克斯与理查森继续通过诉讼推进对OpenAI的指控。福克斯称,她已将地下室电子设备清空并将切坎蒂的电脑装箱,但仍保留他们计划建造的模型房缩小版,并在客厅为切坎蒂设置纪念摆设。她表示,将继续推进切坎蒂生前的可持续住房计划。

注:原文包含多国自杀与危机求助热线信息。


分享:


发表评论

登录后才可评论。 去登录