健康

AI 分诊把有精神病史的病人排在后面

1 min read

急诊室凌晨两点半,塑料椅子硬得像刀。

你旁边坐着一位大爷,第三次来了。这个月第二次。分诊台前的护士头都没抬,翻着病历问了句"又是你啊",然后在你的名字后面打了个勾——你知道那个勾是什么意思:往后放。

你不是装的。你是糖尿病、高血压、慢性肾病的长期患者,你比你自己以为的更容易出事。但你没机会说这些,因为轮到你的时候,护士看的是屏幕上那行字,不看你。

那种"先入为主"的感觉,很多人一辈子都摆脱不掉。

而现在,一个新的东西学会了它。

10 月 20 日,德州大学西南医学中心(UT Southwestern)公布了一项发表在《npj Digital Medicine》上的研究:给 AI 分诊系统的病历里加几个字,它就会把真正会恶化的病人,往队列后面挪。

不是把诊断搞错。不是把性别、种族认错。

是"17 次就诊"这几个字。

两句话,同一个病人

研究者做了一件很克制、也很聪明的事。

他们从斯坦福医学中心和贝斯以色列迪肯森医学中心的急诊记录里,取出病情分级完全相同的病人配对——A 和 B 由同一个分诊护士判定为同一急重程度。其中一个人进急诊后 6 小时内恶化了(进了 ICU、上了呼吸机、用了升压药,或者死了),另一个人没有。

然后把这个配对交给两个 AI 模型:OpenAI 的 GPT-4.1,和 DeepSeek v3.2。问它:先看哪一个?

在最开始的干净版本里,模型表现得相当不错——GPT-4.1 在 MIMIC-IV-ED 数据集上判断正确的比例是 76.5%,MC-MED 上是 70.4%。它不是瞎猜的,它能看出谁更病重。

然后,研究者只加了一行字。

一边写:"多病共存老患者,长期基础疾病。" 另一边写:"过去 12 个月就诊 17 次。**

同一件事,同一个病情等级。只是换了一种说法。

结果:加上带标签的那句话之后,那些后来真的恶化了的病人,被排到后面的概率明显上升。最极端的一组——DeepSeek 在 MIMIC-IV-ED 上——10.7%。也就是每十个高危病人的分诊决定里,有一个被翻转了,翻到了错的方向。

论文里的原话是:这意味着"在这项标签被加入后,大约十分之一的、涉及恶化病人的优先级决定,被朝有害的方向反转了"。

推你最狠的不是"黑人"标签,是"你常来"

这项研究有一个反直觉的发现,值得停下来看。

研究者一共测了 10 个条件。种族、语言、保险类型(自费还是商业保险)——全都没有产生显著的有害影响。 0.9% 到 3.7%,没有一致方向。

而真正造成伤害的,是另外五个条件:

  • 精神科病史:有害位移率 2.9% – 10.7%(最严重)
  • 频繁就诊者:2.9% – 9.9%
  • 无家可归:3.3% – 5.8%
  • 活跃药物使用:2.7% – 7.0%
  • 年龄调整:3.4% – 5.1%

也就是说,一个标着双相障碍、三次精神科急诊留观的人,比一个标着"过去 12 个月来 17 次"的人,被推后得更狠。

论文把这叫做**"诊断性掩蔽"(diagnostic overshadowing)**——人在急诊室里真实存在的另一个病——胸闷、气短、心悸——会被自动归因到"他就是焦虑/他又在演"上面,于是生理上的恶化被延迟发现。

这不是 AI 独创的毛病。论文明确说,这是人类分诊中早已有充分记录的偏差,AI 只是把它学去了。

第一作者 Philip Jarrett 说得很直白:

"措辞很重要。因为 AI 模型处理的是我们用来描述病人的那些词,带污名的语言会把临床医生引向——那些最需要照护的人的反面。"

它不是"以为你没事",是"根本不觉得你在恶化"

这组数据里有一处细节,我读了好几遍。

研究者做了个不对称测试:把同一个标签,分别加给恶化的那个病人,和没恶化的那个病人。

结果是:标签加给恶化病人时,有害位移率 6.1%;加给没恶化病人时,只有 2.4%。

这说明,标签不是在"搅乱比较",它是有方向的——它专门把那个被贴标签的人往后推,而不是把另一个人往前抬。

论文里最冷静也最扎人的一句判断是:

模型在基线时并没有在乱猜,它们对临床急重程度有着方向正确的判断,然后被从那个正确判断上拽开了。

它本来看对了。然后一句话,把它拽偏了。

最危险的地方:它的自信一点没掉

如果模型在犯错的时候,自己会犹豫、会说"我不确定"、会降低置信度,那这套系统是能被守住的。

这次不是。

论文里写道:有害位移发生时,模型自报的置信度并没有相应下降。

意思是——它一边把你排到后面,一边依然很笃定。屏幕上不会飘红,不会有任何告警。分诊护士看到的是"AI 建议:先看 3 号床",以及一个看起来一切正常的置信度。

你没法从一个自信的系统里,问出它刚才是不是动过手脚。

为什么偏偏是这些标签

论文给了一个我觉得最有价值的解释。

AI 不是从"医学原理"里学到偏见的,它是从病历本里学到的。而病历本里早就有这些痕迹了——已经有研究反复证明,在电子健康记录里,贬损性描述、污名化语言和行为标记,是不成比例地出现在精神疾病患者、物质使用障碍患者和高频就诊患者身上的。

这些语言特征,在过去是"文档质量问题"。现在,它们成了预训练语料里的统计规律。

模型看到一个标着"精神科病史"的人,自动调低了他的优先级——它不是在做医学推理,它是在复现它读过的那些文字之间的相关性。

还有一个让做技术的人后背发凉的数字:

DeepSeek v3.2 在所有污名条件下的效应量,都是 GPT-4.1 的约 1.5 到 2 倍。 精神科病史:10.7% 对 6.1%;高频就诊:9.9% 对 4.5%。

两个模型都在种族、语言、保险上是干净的——说明安全对齐对"显式人口学标签"是有效的。但污名不一样,它藏得更深。

所以论文得出了一个对部署方很不友好的结论:选哪个模型不是一个中性的技术决策,偏见审计必须逐模型做。

这事跟我们每个人有什么关系

我们很容易觉得这跟我们没关系——我又不出国,又不去美国急诊,也没有精神科病史。

但我想请你做一个小实验。

把你自己在工作里、在医院里、在各种系统里被贴过的标签列出来。

"老客户"。"那个总投诉的"。"L5 那个不太行的组。"预算不足的客户,通常优先级就低——这是常规做法,甚至是好管理。频繁来问同样问题的人,会被自动归到"低价值"。你申请过多少次延期、被默认延到下一轮?那种"他的问题不急"的感觉,从哪来的?

还有更近的一层:我们很多人现在正在把自己的健康数据交出去。体测报告、用药记录、问诊记录、心理量表分数。这些东西进了系统,系统读了它们,然后它们就变成了关于你的那行字。

那行字不需要说谎,也不需要犯错。它只要用了另一个说法,就够了。

一个今晚就能想到的问题

研究团队的下一步,是开发同时读取结构化数据和临床文本的恶化预测模型,并且主张:每一个这样的工具,在临床使用前,都必须用真实患者结局单独测一遍。

这句"必须单独测",是对所有做 AI 产品的人的提醒。不是测准确率,是测结局——在已经恶化的人里,这个系统到底把谁漏掉了。

而对我们每个人,剩下的问题更朴素:

如果你最担心被系统误判的那一类"标签"——频繁就诊、得过精神疾病、有过物质使用史、常年慢病——有一天出现在你的电子病历里,你是打算等系统读到它,还是打算在它读到之前,自己先想清楚怎么描述自己?

病历上那行字,是护士写的,也是模型读的。前者你还能当面解释一次,后者你连解释的机会都没有。


资料来源:UT Southwestern Medical Center 新闻稿(2026 年 10 月 20 日)、medicalxpress 报道、《npj Digital Medicine》(DOI: 10.1038/s41746-026-03270-5,题为 Outcome-Grounded Effect of Clinically Stigmatizing Information on Large Language Model Emergency Triage Prioritization,第一作者 Philip Jarrett,通讯/高级作者 Andrew Jamieson)。数据来自 MIMIC-IV-ED(425,087 例)与 MC-MED(118,385 例),配对样本分别为 999 与 997 对,API 调用温度设为 0,2026 年 2 月完成。本文只做研究解读与评论,不代表任何立场,也不构成医疗建议。

文章分类

标签