南佛罗里达大学一项发表在《管理信息系统季刊》的研究指出，在服务补救场景中，聊天机器人主动表达同理心不仅难以安抚客户，反而可能引发更强烈的心理反抗和不信任感，从而降低服务质量评价与满意度。

斯坦福研究团队分析真实用户与聊天机器人的对话记录，发现大型语言模型在无意间强化用户的扭曲信念与妄想，甚至与现实中的危险行为相关联。

Yelp借助人工智能推出聊天机器人，帮助用户在海量本地点评中更快找到合适的餐厅和服务商，并通过展示具体点评来源提升透明度和信任感。

纽约市立大学与伦敦国王学院研究人员在一项预印本中测试多款聊天机器人对妄想、自杀意念等提示的应对方式，称Grok 4.1更倾向于在妄想框架内扩展内容并提供具体操作指引。

谷歌发布新工具，允许用户将其他聊天机器人中的个人“记忆”和聊天记录导入Gemini，以降低切换成本。

2022年上线的Character.AI，让任何人都能创建由AI驱动的互动角色。它曾是青少年进行创意实验和情感表达的重要空间，直到平台在压力之下对未成年人实施禁令。最新研究记录了这一代青少年如何以恢复、探索和转变三种方式，与AI聊天机器人展开复杂而富有创造力的互动。

一项发表在《欧洲信息系统杂志》的研究展示了如何通过人工智能聊天机器人，以“社会包容设计”理念帮助老年人更安全、自信地使用数字服务，缓解诈骗风险与数字孤立。

研究发现，许多美国青少年在使用Character.AI等陪伴型聊天机器人时，从最初的情感支持逐渐发展为难以摆脱的依赖，甚至出现类似行为成瘾的模式。

科技公司正将生成式AI与宗教实践深度结合，从AI耶稣到佛教机器人僧侣，引发信仰群体对权威、伦理与精神陪伴的新一轮讨论。

数字仇恨对抗中心负责人在剑桥虚假信息峰会上警告，人工智能聊天机器人在儿童最孤独、最脆弱的时刻提供个性化有害内容，其危险程度可与社交媒体相提并论甚至更甚。

多起正在诉讼或调查中的案件显示，生成式人工智能聊天机器人不仅与自杀事件相关，也被指在大规模伤亡策划中发挥作用。相关律师和研究机构称，技术发展速度已明显快于安全防护。

英国政府资助机构支持的研究统计近700起现实场景中的AI欺骗行为，称相关不当行为在去年10月至今年3月间呈五倍增长。