汕头大学医学院
  • 首页
  • 走进汕医
  • 机构设置
  • 人才招聘
  • 教师队伍
  • 招生信息
  • 研究生教育
  • 教学教务
  • 科学研究
  • 合作交流
  • ESI学科建设
×

汕医新闻
  •    最新要闻>
  •    综合新闻>
  •    媒体汕医>
网站首页  ->  汕医新闻  ->  最新要闻
汕头国际眼科中心团队在Cell子刊发表综述,为可信医疗AI临床应用绘制路线图
2026-11-20 10:37:56   

汕头大学·香港中文大学联合汕头国际眼科中心携手香港中文大学、新加坡国立大学等国内外科研团队,在Cell子刊 Cell Reports Medicine(IF 14)在线发表题为《Moving Beyond Overconfidence: A Clinical Roadmap for Integrating Uncertainty-Aware AI Models into Medical Workflows》的综述论文。

该综述由汕头国际眼科中心兼聘教授陈浩宇作为通讯作者领衔团队完成,汕头国际眼科中心罗益龙医生为本文第一作者,研究聚焦医疗人工智能(AI)在临床应用中的“过度自信”问题,系统梳理不确定性量化(Uncertainty Quantification)的主要来源、核心技术方法及其在医学影像分析、基础模型、大语言模型和AI智能体等领域的应用进展,深入剖析现有AI模型在预测可靠性、临床风险识别及实际部署中面临的关键挑战;进一步提出涵盖可靠性评估、风险阈值设定、临床验证与持续监测的系统性转化路线图,推动不确定性量化从单纯的算法指标转变为指导临床决策与人机协作的重要工具,为构建更加安全、可靠、可信的医疗人工智能应用体系提供理论依据与实践参考。

聚焦核心问题:当AI“自信地犯错”,医生该如何判断?

人工智能在医学影像分析领域已取得显著进展。眼底照片、光学相干断层扫描、CT及MRI等医学影像,均已成为人工智能辅助诊断的重要应用场景。然而,预测准确率高,并不意味着每一次预测都值得信赖。例如,一套用于糖尿病视网膜病变筛查的AI系统,可能将未曾在训练中见过的其他严重眼底疾病误判为“无糖尿病视网膜病变”。即使模型给出的置信度很高,也无法保证患者不存在其他需要紧急处理的疾病。

临床医生面对不典型病例时,往往会主动寻求复查、进一步检查或专家会诊,而传统AI模型未必具备这种主动识别自身判断局限的能力。不确定性量化为解决这一问题提供了新的思路。通过为预测结果补充不确定性信息,模型有望识别需要进一步人工审核的病例,从而减少错误预测未经识别便进入临床流程的风险。

研究团队首先从医学影像的实际临床特点出发,将AI的不确定性归纳为两大类型:数据本身的不确定性(Aleatoric Uncertainty)、模型认知不足带来的不确定性(Epistemic Uncertainty)。

从算法走向临床:提出不确定性感知AI的应用路线图

如何把模型的不确定性评分转化为真正有意义的临床行动,是本篇综述重点讨论的问题。研究团队指出,当前许多研究侧重于开发新的不确定性量化算法,但对于模型进入医院后应如何使用这些信息,仍缺乏充分的临床验证与统一实践标准。为此,文章提出了一套以实际医疗工作流程为导向的临床转化路线图,重点包括:

1.验证可靠性。在真实应用场景对应的数据中,评估不确定性评分能否有效识别容易发生错误的预测,而非仅关注模型整体准确率。

2.确定临床阈值。根据具体医疗任务及错误风险,制定适当的转诊或人工复核规则,明确哪些病例可以由AI自动处理,哪些必须交由医生审核。

3.开展临床评价。在独立数据及不同患者亚组中评估模型表现,并进一步通过前瞻性临床研究,验证不确定性信息能否真正改善诊疗决策,而不仅是改善算法指标。

4.建立持续监督机制。在模型实际部署后,持续监测错误率、人工复核比例及不同患者群体之间的表现差异,并明确系统开发者、医疗机构及临床医生的相应责任。

这一路线图强调,可靠的医疗AI不仅需要具备识别潜在错误的能力,还必须将风险提示与明确的临床处理措施相连接。

展望前沿方向:推动可信医疗AI走向临床实践

尽管不确定性量化技术在提升医疗AI可靠性方面展现出重要潜力,但其临床应用仍面临诸多挑战,包括不确定性评分与实际错误风险之间的关联尚不稳定、模型在不同患者群体及医疗环境中的泛化能力不足、临床风险阈值缺乏统一标准,以及真实世界前瞻性验证仍不充分。未来,相关研究将聚焦不确定性评估与校准方法的优化、不同临床场景下的风险识别、人工复核机制的建立,以及基础模型、大语言模型和AI智能体等新兴技术的系统性可靠性验证,推动不确定性量化从算法性能评估逐步走向真实世界临床应用。

随着相关技术与临床验证体系不断完善,不确定性量化有望从单纯的模型可靠性指标,逐步发展为连接AI预测、临床风险识别与医疗决策的重要纽带,推动医疗AI由单纯追求预测准确率向兼顾安全性、可靠性与临床实用性的方向发展,为构建更加可信、可监督的人机协作医疗体系提供重要支撑。

三大核心亮点

亮点一:从临床视角重新审视AI不确定性。

文章突破单纯讨论数学方法和算法性能的视角,将不确定性量化与临床诊断、病例分流及人工审核相联系,强调其在实际医疗决策中的价值。

亮点二:系统整合不同医疗任务与新一代AI技术。

综述不仅梳理四类主要不确定性量化方法和八类医学影像任务,还进一步讨论基础模型、大语言模型及AI智能体的可靠性挑战,为不同研究方向提供综合性参考。

亮点三:提出面向真实临床工作流程的转化路线图。

文章将可靠性验证、临床阈值、亚组评估、前瞻性研究及持续监督相结合,为不确定性感知医疗AI从算法研究走向临床实践提供了系统性的实施思路。

光影魔术手拼图.jpg


通知类别:汕医新闻      撰稿人:国际眼科中心      审核人:组织宣传统战部

汕头大学医学院  粤ICP备10216025号  ©   汕头大学医学院  |  地址:汕头市新陵路22号  |  515041  |  汕头大学医学院网络与信息中心开发