科学研究

从“算法可用”到“临床有用”:我院研究团队提出医学AI五阶段评价框架

时间:2026-10-26

浏览量:

2026年9月,中国医学科学院 北京协和医学院 卫生健康管理政策学院江宇教授团队联合相关单位,在医学人工智能领域国际学术期刊 npj Digital Medicine 发表题为“A five-phase evaluation framework for diagnostic and predictive medical artificial intelligence”的研究论文。研究针对当前医学人工智能从算法研发走向临床应用过程中面临的评价体系不完善、临床证据不足等关键问题,提出覆盖医学AI全生命周期的五阶段评价框架,系统整合8类核心评价方法和18种研究设计,为医学人工智能的科学评价、临床验证与规范化应用提供了系统性方法学参考。

一、研究背景:医学AI表现优异,就一定能造福患者吗?

近年来,人工智能(Artificial Intelligence,AI)技术在医学影像、数字病理、疾病风险预测及临床辅助决策等领域快速发展,展现出广阔的应用前景。然而,算法在实验室中表现优异,并不意味着其能够在真实临床环境中产生同等价值。

当前,大量医学AI研究仍主要依赖回顾性数据验证,重点关注准确率、敏感度及受试者工作特征曲线下面积(AUC)等算法性能指标,而对于AI系统能否稳定运行、是否真正改善医生决策、能否提高诊疗效率以及最终是否改善患者健康结局,仍缺乏系统、连续的评价证据。

尽管现有国际指南已对医学AI研究的报告规范、临床试验及可信赖性提出相关要求,但如何根据AI技术的不同发展阶段,科学选择适宜的研究设计,并建立从算法验证到临床应用的完整证据链,仍是医学人工智能临床转化面临的重要挑战。如何推动医学AI评价从“算法性能”走向“临床价值”,成为本研究关注的核心问题。

二、研究成果:构建医学AI五阶段评价框架

针对上述问题,研究团队提出了诊断与预测型医学人工智能的五阶段评价框架(Five-phase evaluation framework),将医学AI从算法开发完成到临床应用及长期运行的评价过程划分为五个相互衔接的阶段。

第一阶段:技术验证(Technical Validation)

重点回答“AI算法是否准确、可靠,能否适用于不同人群和医疗机构”。通过多中心回顾性外部验证,系统评估算法的诊断性能、泛化能力和数据稳健性,为后续临床评价奠定基础。

第二阶段:运行稳健性验证(Operational Robustness Validation)

重点回答“AI系统能否在真实医院环境中稳定运行”。通过静默试验(Shadow-mode/Silent Trial),使AI系统在真实临床数据流中运行,但不影响医生的实际决策,以评价系统稳定性、运行效率及数据适应能力。

第三阶段:受控交互验证(Controlled Interaction Validation)

重点回答“AI能否真正帮助医生提高诊断能力”。通过AI与医生独立诊断比较、配对研究以及多阅片者多病例(MRMC)研究,评价人机协作对诊断准确性、效率及医生决策行为的影响,同时识别自动化偏倚等潜在风险。

第四阶段:临床证据验证(Clinical Evidence Validation)

重点回答“AI的应用能否带来实际临床获益”。通过前瞻性随机对照试验等研究设计,评价AI对临床诊疗流程、诊断效率及患者健康结局的影响,为临床应用提供高质量证据。

第五阶段:真实世界整合验证(Real-world Integration Validation)

重点回答“AI能否在长期临床应用中持续发挥作用”。通过真实世界研究、实施科学研究及上市后主动监测等方法,评价AI在不同医疗环境中的长期有效性、安全性、公平性和可持续应用能力。

五个阶段层层衔接,推动医学AI评价从单纯关注算法性能,逐步转向关注人机协作、临床获益与真实世界价值。



图1. 医学人工智能五阶段评价框架

三、核心驱动:动态评价,构建持续迭代的医学AI评价机制

与传统医疗技术不同,医学AI具有快速迭代、持续更新的特点。随着临床数据分布、医疗设备及诊疗流程的变化,AI模型的性能也可能发生改变。因此,传统“开发—验证—部署”的线性评价模式,难以充分适应医学AI持续演进的特点。

针对这一挑战,研究团队进一步提出动态评价机制(Adaptive Lifecycle Governance),作为贯穿五阶段评价框架的核心驱动,推动医学AI评价由一次性、静态验证向持续性、动态评价转变。

该机制强调,医学AI的评价并非必须严格遵循单向、线性的固定流程,而应根据模型性能、临床需求及安全风险,在不同阶段之间实现动态衔接、反馈调整和必要的重新验证。

具体而言,研究引入适应性样本量重新估计、适应性平台试验和版本化评价等研究设计,并建立阶段准入标准(Phase-gating Criteria)与回退再评价机制(Fall-back Triggers)。当AI系统出现数据漂移、性能下降或潜在安全风险时,可根据问题严重程度进行局部调整、版本回退或返回早期阶段重新验证,形成“持续监测—风险识别—动态调整—重新验证”的闭环管理模式。

这一机制突破了传统医学AI评价“一次验证、长期使用”的静态思路,使评价体系能够伴随AI技术迭代和临床环境变化持续更新,为医学AI的长期安全性、有效性及规范化应用提供方法学支持。

四、研究创新:从静态评价走向全生命周期动态评价

在提出五阶段评价框架的基础上,研究团队进一步系统整合了8类核心评价方法和18种研究设计,涵盖多中心外部验证、静默试验、人机协作研究、随机对照试验、真实世界评价及适应性研究设计等,为不同发展阶段的医学AI系统提供相应的方法学选择。



图2. 医学AI评价研究设计体系

与传统以单次性能测试为主的评价方式不同,本研究强调,医学AI评价不应是简单、固定的线性过程,而应当建立能够适应算法持续更新和临床环境变化的动态评价机制。

为此,研究进一步提出动态评价架构,引入阶段准入标准、风险预警和回退再评价机制。当AI系统出现性能下降、数据漂移或安全风险时,可根据问题性质返回相应阶段重新验证,实现持续监测、动态更新与闭环管理。这一设计使评价体系不仅关注AI系统“能否进入临床”,更关注其在长期应用过程中“能否持续安全、有效地服务临床”。

五、研究意义:为医学AI临床转化提供方法学参考

本研究从医学人工智能临床转化的实际需求出发,构建了涵盖技术性能、系统稳定性、人机协作、临床获益、真实世界应用和动态评价的系统性评价框架,为医学AI研究提供了更加完整的证据生成路径。研究成果有望为医学AI研发人员、临床研究者、医疗机构及相关监管部门提供方法学参考,促进不同阶段研究设计的科学选择与评价标准的规范化应用。

同时,该框架强调以临床需求为导向,将患者安全、临床有效性及长期应用价值贯穿医学AI评价全过程,为推动医学人工智能从技术创新走向临床实践提供了新的研究思路。医学人工智能的发展,不仅需要更加先进的算法,更需要科学、严谨的临床证据。

从“算法可用”到“临床有用”,从“性能优异”到“真正改善医疗服务”,本研究为医学AI的科学评价与临床转化提供了系统性方法学支持,也体现了医学、人工智能与公共卫生等多学科交叉融合的研究价值。


论文信息

论文题目: A five-phase evaluation framework for diagnostic and predictive medical artificial intelligence

发表期刊: npj Digital Medicine

第一作者:叶子晨

通讯作者:江宇、高广涵、曲翌敏、叶子晨

论文链接: https://doi.org/10.1038/s41746-026-03155-7

作者: Zichen Ye, Yue Chen, Xuefeng Huang, Manman Chen, Wanzhou Wang, He Zhu, Keyu Han, Jiahui Wang, Qu Lu, Yuankai Zhao, Yimin Qu, Guanghan Gao, Yu Jiang.

参与单位: 中国医学科学院北京协和医学院、德国癌症研究中心、北京大学医及首都医科大学附属北京潞河医院等相关单位。


供稿:韩珂语

编辑:李梦超

审修:韩允瑞

监制:李   涛