军事与医疗决策加速引发关注:AI介入下“人在回路中”但责任感减弱
美国在对伊朗行动及以色列在加沙行动中使用AI辅助目标选择,以及美国健康保险公司利用算法加速理赔拒付流程的做法,引发对“人在回路中”但决策重量被削弱的担忧。
研究人员提出新框架:为生成式人工智能引入“元认知”机制
美国学者提出一套数学框架,尝试让大型语言模型具备监控和调节自身推理过程的能力,用于在高风险场景中更好识别不确定性并提升决策透明度。
美国在对伊朗行动及以色列在加沙行动中使用AI辅助目标选择,以及美国健康保险公司利用算法加速理赔拒付流程的做法,引发对“人在回路中”但决策重量被削弱的担忧。
美国学者提出一套数学框架,尝试让大型语言模型具备监控和调节自身推理过程的能力,用于在高风险场景中更好识别不确定性并提升决策透明度。