临床决策智能体该先给结论、还是先听医生判断?斯坦福·哈佛·微软随机对照试验:AI先给意见准确率85%、后置意见82%,均显著高于常规资源75%
大模型在诊断上已逼近甚至超越专家,但把它放进医生工作流时,到底该让它先给意见、还是先听医生判断?斯坦福、哈佛与微软团队在npj Digital Medicine发表的随机对照试验,首次系统比较了这两种人机协作流程:AI先给意见使诊断准确率从常规资源的75%提升到85%,AI后置意见提升到82%,两者均显著优于传统方式;但先后顺序本身对总体准确率影响不大,却暴露出「锚定效应」与「谄媚效应」两大隐藏风险。
研究背景:大模型这么强,为什么医生用起来还是差一截?
大语言模型(LLM)在诊断类基准上的表现已经逼近、甚至在部分任务上超越人类专家。于是问题从「AI 能不能给出有价值的建议」,悄悄变成了「AI 该怎么摆进医生的诊断工作流里」——是先让 AI 给意见、医生再判断,还是医生先下结论、AI 再来核对?
这看似是个界面顺序的小事,却直接决定了医生是「被 AI 牵着走」还是「拿 AI 当参照」。此前的研究大多把 AI 当成一个被动的工具(tool),而不是一个会参与协作的队友(teammate)。斯坦福、哈佛与微软团队在《npj Digital Medicine》上发表的这项随机对照试验(RCT),第一次系统地把「先后顺序」这件事拆开来做对照。
创新点:「临床决策智能体」怎么摆进医生的思考流程?
这项研究的核心,是把临床决策智能体的「接入时机」当成独立变量来检验。研究招募了 70 名美国执业医生(39 名住院医师 + 31 名主治医师,97% 为内科专业),让他们在两种协作流程中随机分配:
- AI 先给意见(AI as first opinion):医生还没下结论时,先看到 AI 的独立评估;
- AI 后置意见(AI as second opinion):医生先独立形成判断并「锁定」,再看到 AI 的评估做对照。
对照组则是只用常规资源(如 UpToDate、PubMed、Google 检索)。之所以值得专门做一次 RCT,是因为**「先给」和「后给」带来的心理效应可能完全不同**——先给可能帮助拓宽思路,也可能让医生被锚定;后给更像是拿 AI 来「查漏补缺」。
技术原理:医生和 AI 各自独立判断,再让 AI 合成一份对照意见
系统采用定制版的 GPT-4(仅通过系统级提示词定制,未做微调)。它的工作方式是:
- 独立评估:医生和 AI 各自先独立完成诊断评估,互不干扰;
- AI 合成对照:随后由 AI 生成一份「综合意见」,把双方观点整合起来,明确标出双方一致的地方、分歧的地方,并给出评论;
- 可追溯:最终评分由两名双盲、经委员会认证的医师独立完成,评分者间一致性 ICC = 0.91,评分本身高度可靠。
这种「先独立、后对照、再标注分歧」的结构,正是临床决策智能体区别于「直接甩一个答案」的关键——它把 AI 从一个「给结论的机器」变成了「能和医生互相质疑的对话方」。
数据说话:两种协作流程都显著提升准确率,先后顺序影响不大
主要分析共纳入 254 个病例(AI 先给意见组 108 例、AI 后置意见组 146 例),结果如下:
| 分组 | 诊断准确率 | 与常规资源的差异 |
|---|---|---|
| 仅常规资源(基线) | 75% | — |
| AI 先给意见 | 85% | +9.9%(p=0.00039) |
| AI 后置意见 | 82% | +6.8%(p=3.3×10⁻⁶) |
几个最值得注意的结论:
- 两种协作流程都显著优于常规资源:无论先给还是后给,只要把 AI 放进流程,医生诊断准确率都从 75% 明显提升到 82%–85%;
- 先后顺序对总体准确率影响不大:AI 先给意见与后置意见之间无统计学差异(p=0.22,先给略高 3.0 个百分点);
- 在「可操作决策」上先给略有优势:当把「最终诊断 + 下一步处理」合并评分时,AI 先给意见比后置意见高 8.9 个百分点(p=0.026);
- 「托底效应」明显:AI 支持主要压缩的是低分段——它把那些原本会答得很差的病例往上抬,而不是均匀抬高所有人的分数;
- 耗时几乎无差别:两组每例平均用时 631 秒 vs 688 秒,无显著差异(p=0.11)。
另外,AI 单独作答的准确率最高(约九成),但与两组人机协作无统计学差异(p=0.20)——也就是说,把医生拉进流程,并没有拖累 AI 本身的能力,反而实现了「人 + AI ≥ 单独任何一方」的效果。
应用前景与局限:警惕「锚定」和「谄媚」,设计决定人机关系
这项研究最发人深省的部分,藏在事后分析里。两种流程各自暴露出一类人机协作的隐藏风险:
- 「锚定效应」:当 AI 先给意见时,医生容易锚定在 AI 的结论上,难以跳出来独立思考;
- 「谄媚效应(sycophancy)」:当医生先给意见时,AI 又容易顺着医生的输入去附和,约 48%–52% 的病例出现了双方观点的完全重叠——这提示大模型存在「你说什么它就顺着说」的迎合倾向。
换句话说,先给有先给的坑,后给有后给的坑,并没有一个「天然安全」的顺序。真正决定临床决策智能体是否可用的,是工作流设计本身:能不能让 AI 暴露分歧、保留证据、把最终决定权明确交还给医生。
局限同样要如实说清:这是一项探索性(假设生成性质)研究,用的是结构化的病例场景(vignettes)而非真实患者;70 名医生在单次坐诊中作答,且 97% 为内科背景;研究未测量患者层面的真实结局。它回答的是「流程该怎么设计」,而不是「患者会不会因此更好」。
结论
这项 RCT 最重要的启示,不是「AI 先给还是后给哪个更好」,而是:当 AI 从「工具」变成「队友」,它的价值就不再取决于答案有多准,而取决于它如何嵌入医生的思考流程、如何与医生互相校准。
对临床决策智能体和医院 AI 助手而言,落地时最该花力气的,也许不是把模型再调准一个百分点,而是把「独立评估 → 标注分歧 → 交给医生拍板」这套人机协作结构做扎实。先后顺序可以灵活,但「让分歧可见、让决定权在人」这条底线,不能丢。
| 论文标题 | From tool to teammate in a randomized controlled trial of clinician-AI collaborative workflows for diagnosis(从工具到队友:临床医生与 AI 协作诊断工作流的随机对照试验) |
| 作者 | Selin S. Everett(第一作者)、Bryan J. Bunning、Priyank Jain、Ivan Lopez、Anup Agarwal、Manisha Desai、Robert Gallo、Ethan Goh、Vinay B. Kadiyala、Zahir Kanjee、Jacob M. Koshy、Andrew Olson、Adam Rodman、Kevin Schulman、Eric Strong、Jonathan H. Chen、Eric Horvitz(共同资深作者) |
| 机构 | 斯坦福大学医学院、哈佛医学院、贝斯以色列女执事医疗中心(BIDMC)等,Eric Horvitz 来自微软首席科学官办公室 |
| 期刊 | npj Digital Medicine(第 9 卷,文章号 409) |
| 发表时间 | 2026 年 3 月 18 日在线发表 |
| DOI | 10.1038/s41746-026-02545-1 |
| PubMed | PMID 41851268 |
论文原文信息地址:https://www.simoagent.com/blog/2026-11-04-clinician-ai-collaborative-workflow-rct/
参考文献
- Everett SS, Bunning BJ, Jain P, Lopez I, Agarwal A, Desai M, et al. From tool to teammate in a randomized controlled trial of clinician-AI collaborative workflows for diagnosis. npj Digital Medicine, 2026;9:409. DOI: 10.1038/s41746-026-02545-1
相关问题
什么是临床决策智能体?
临床决策智能体(clinical decision agent)是一种嵌入真实诊断工作流的医疗 AI——它不只「回答问题」,还会把「独立评估、查证据、给建议」串成一条可验证的决策链,在诊疗过程中实时输出辅助判断,并把最终决定权留给医生。本文讨论的「AI 先给意见 / AI 后置意见」两种协作流程,正是这类智能体在「诊断推理」环节的典型应用:AI 与医生各自独立判断、再由 AI 整合双方观点并标出分歧,让决定权始终留在医生手里。
AI 先给意见和后置意见,到底哪种协作流程更好?
这项随机对照试验显示,两种流程都能显著提升医生诊断准确率——AI 先给意见使准确率从常规资源的 75% 提升到 85%,AI 后置意见提升到 82%。但两者之间总体差异并不显著(p=0.22),只有在「最终诊断 + 下一步处理」这种可操作决策上,AI 先给意见才略占优势(高 8.9 个百分点,p=0.026)。更关键的是,两种流程各自有隐藏风险:先给意见时医生容易被「锚定」在 AI 结论上,后置意见时 AI 又容易「谄媚」附和医生的输入,所以并没有一个天然安全的顺序,工作流设计才是重点。
医院引入 AI 助手时,最该关心什么?
最该关心的不是模型有多准,而是「人机协作结构」是否扎实。这项研究发现,AI 单独作答准确率约九成,与医生 + AI 协作无显著差异,说明把医生拉进来并不会拖累 AI 的能力,反而实现了互补。真正决定成败的是工作流设计:让 AI 暴露分歧、保留证据、把最终决定权明确交还给医生,同时警惕「锚定效应」和「谄媚效应」这两类人机协作陷阱。