教皇利奥十四世警示人工智能或侵蚀人类行为与连接,呼吁加强对情感型系统监管

richlovec 1500_400 (1)
 

教皇利奥十四世近期多次就人工智能议题发声,将其从相对边缘的伦理讨论提升为天主教会关注的重点之一。他表示,新技术正在改变人们的行为方式、人与人之间的关系以及自我认知,并特别提到聊天机器人与合成媒体可能以更隐蔽的方式削弱真实的人类连接。

在其表述中,人工智能带来的问题不再仅限于工程或监管层面的技术争论,而与身份、情感及社会凝聚力等议题相互交织。教皇指出,当机器能够越来越逼真地模拟同理心、亲密感与智慧时,社会需要重新审视“何为人类”的问题。

关注“过于亲昵”的对话系统

教皇利奥十四世将风险焦点之一指向以“关怀伴侣”形态出现的对话系统。他在近期一则书面信息中警告,若聊天机器人被设计得“过于亲昵”,可能模糊情感边界,诱导用户以与机器互动替代现实人际关系,从而对真实行为与连接构成威胁。相关报道提到,他尤其关注年轻用户在更深度沉浸数字世界时,可能更难区分真诚关怀与程序化回应。

他并未主张全面拒绝人工智能,但强调应对模拟亲密关系的系统保持警惕,认为此类产品可能具有操控性或成瘾性。报道同时指出,教皇强调教会需要明确表达对人们与“无法互惠”的软件建立情感纽带所带来风险的关切,并将其与设计者及平台的道德责任相联系。

强调技术应服务于人

教皇利奥十四世在其教宗任期内反复提出,技术应当服务于人,而不应取代人的能动性或使命。在第60届世界社会传播日相关信息中,他提出评估人工智能工具的标准应是其是否支持每个人的尊严与使命,而非仅以自动化效率或吸引注意力的能力衡量。

同一信息也将人工智能与教会长期强调的真实媒体与负责任叙事相结合。通过把世界社会传播日主题与算法、合成内容等问题并置,梵蒂冈释放出信号:人工智能已成为新闻、图像与叙事生产和消费链条中的关键变量。相关准备工作中,梵蒂冈官员亦提醒信众应正视人工智能对真实人类交流的冲击,并呼吁在数字文化中强化辨识力。

呼吁对情感导向系统进行“适当监管”

在更具体的政策层面,教皇利奥十四世呼吁对面向用户情感的人工智能系统实施“适当监管”。他表示,若缺乏明确规则,用户可能对那些以温暖、奉承或表面关心作出回应的聊天机器人形成不健康依赖,尽管这些系统并不具备真正理解能力。他认为,这类依赖与混淆对孤立或脆弱人群的影响尤为突出,并主张监管应防止情感剥削,同时限制虚假或操控性内容传播。

相关报道将其担忧与个性化人工智能伴侣的讨论联系起来,包括心理健康聊天机器人以及嵌入 Replika、Character.ai 等应用的关系模拟产品。报道还提到,教皇特别关注利用大量个人数据定制回应、使用户产生“被独特理解”感受的系统,认为这可能形成成瘾或操控性的情感纽带。分析人士舒班吉·戈尔在相关讨论中指出,这一表态也触及超个性化人工智能背后的商业模式风险:工具越是模仿友谊或浪漫关系,越可能扭曲用户对现实关系的期待。

从个体延伸至社会凝聚力与公共生活

教皇利奥十四世也将视角从个体体验扩展到社会层面,称人工智能正在影响人类身份与社会凝聚力。他警告,尤其是负责新闻推送与内容推荐的算法,可能通过制造回声室、放大极化内容而损害公共生活;当系统优先追求参与度而非真理或团结时,可能削弱社区纽带并侵蚀对机构及彼此的信任。

这些观点延续了他早期对人工智能的表述。此前,他曾将人工智能描述为对人类尊严、公正与劳动的挑战,并在一次重要演讲中提到,若在工作场所与公共服务领域不受控部署人工智能,可能加剧不平等、将人简化为数据点。他强调,经济效率不应成为将工人视为可替代对象或模糊自动化决策责任归属的理由。

倡导维护真实的人类声音、面孔与责任

除提出风险外,教皇利奥十四世也谈及人工智能如何在不削弱人类存在的前提下被使用。他强调传播领域应保留真实的人类声音与面孔,并提醒合成媒体可能被用于冒充权威人物或亲友。在世界社会传播日信息中,他提到,能够模拟人声、面孔以及智慧、知识、意识、责任、同理心与友谊的系统,可能制造“相遇”的假象,反而使人们彼此疏远。

他呼吁传播者提高对机器生成内容的透明度,确保技术支持真实相遇而非取代相遇。相关报道指出,这一立场在天主教媒体与牧灵工作者中引发讨论,部分媒体与评论者也将世界传播日议题延伸至深度伪造与自动化内容带来的挑战,强调在合成内容充斥的数字环境中维护图像与言论的完整性。


分享:


发表评论

登录后才可评论。 去登录