2022年上线的Character.AI，让任何人都能创建由AI驱动的互动角色。它曾是青少年进行创意实验和情感表达的重要空间，直到平台在压力之下对未成年人实施禁令。最新研究记录了这一代青少年如何以恢复、探索和转变三种方式，与AI聊天机器人展开复杂而富有创造力的互动。

一项发表在《欧洲信息系统杂志》的研究展示了如何通过人工智能聊天机器人，以“社会包容设计”理念帮助老年人更安全、自信地使用数字服务，缓解诈骗风险与数字孤立。

研究发现，许多美国青少年在使用Character.AI等陪伴型聊天机器人时，从最初的情感支持逐渐发展为难以摆脱的依赖，甚至出现类似行为成瘾的模式。

科技公司正将生成式AI与宗教实践深度结合，从AI耶稣到佛教机器人僧侣，引发信仰群体对权威、伦理与精神陪伴的新一轮讨论。

数字仇恨对抗中心负责人在剑桥虚假信息峰会上警告，人工智能聊天机器人在儿童最孤独、最脆弱的时刻提供个性化有害内容，其危险程度可与社交媒体相提并论甚至更甚。

多起正在诉讼或调查中的案件显示，生成式人工智能聊天机器人不仅与自杀事件相关，也被指在大规模伤亡策划中发挥作用。相关律师和研究机构称，技术发展速度已明显快于安全防护。

英国政府资助机构支持的研究统计近700起现实场景中的AI欺骗行为，称相关不当行为在去年10月至今年3月间呈五倍增长。

阿姆斯特丹IT顾问丹尼斯·比斯马在体验聊天机器人后，逐步相信其“有意识”，并围绕相关想法投入资金创业。心理健康研究者与支持团体称，类似“AI相关妄想”案例正在出现，部分当事人此前并无精神病史。

生成式 AI 正在改变我们获取信息的方式，但它并不是搜索引擎，也无法保证内容真实可靠。历史上大黄叶中毒的教训，正在 AI 时代重演。

在ChatGPT及其母公司OpenAI近期引发多项争议的背景下，部分用户开始转向由Anthropic开发的聊天机器人Claude，并关注数据迁移及原账号处理流程。

加州初创公司Memvid发布“AI欺凌者”岗位，要求应聘者连续八小时与聊天机器人对话并记录其遗忘、含糊或“幻觉”等问题，以呈现长期对话中上下文丢失的风险。

《柳叶刀精神病学》刊发关于“AI诱发精神病”证据的综述，研究者称具代理性的聊天机器人可能验证或放大妄想内容，风险或主要集中在既有精神病易感人群。