ECRI:AI聊天机器人滥用成2026年首要健康技术风险
ECRI发布年度《十大健康技术风险》报告,称依赖大型语言模型的聊天机器人未按医疗器械监管且缺乏医疗用途验证,误导信息可能造成患者伤害。报告同时提示系统中断应对不足、劣质及伪造医疗产品、家庭糖尿病管理技术召回沟通失败等风险。
ECRI发布年度《十大健康技术风险》报告,称依赖大型语言模型的聊天机器人未按医疗器械监管且缺乏医疗用途验证,误导信息可能造成患者伤害。报告同时提示系统中断应对不足、劣质及伪造医疗产品、家庭糖尿病管理技术召回沟通失败等风险。