女性心梗被AI“医生”少诊断一半，你还敢信它吗？
导读： 人工智能特别是大语言模型正迅速进入医疗领域，在美国医师执照考试中已达到100%的准确率，有些模型甚至在特定测试中，表现出接近甚至超越人类医生的水平。近期复旦大学附属华山医院感染科主任张文宏的表态，再度将AI医疗推向舆论风口，他明确拒绝将AI引入医院电子病历系统及核心诊疗流程。这番言论很快引发了百川智能创始人王小川针锋相对的反驳。 最近，自然语言处理领域顶级国际会议EMNLP（Empirical Methods in Natural Language Processing）一项研究，显示AI诊断心肌梗死这一疾病时，女性能比实际病例少诊断一半，而男性却比实际增加了许多。这揭示了这一技术背后的隐忧：大语言模型（Large Language Models，简称LLMs）在疾病诊断中存在系统性的偏见。
黄磊｜撰文
近年来，大语言模型在医疗领域展现出多方面应用潜力。它们能够快速分析患者病历信息，结合最新医疗指南和研究，为医生提供治疗建议。在医学教育领域，这些模型的表现同样令人瞩目。谷歌为医疗领域打造的Med-PaLM2模型，在美国医疗执照考试的答题水平达到了“医学专家”级别。而英国巴斯大学詹姆斯·达文波特教授指出：“行医并不只是回答医学问题，如果纯粹是回答医学问题，我们就不需要教学医院，医生也不需要在学术课程之后接受多年的培训了。” 这一观点揭示了AI在医疗领域应用的核心挑战——医学不仅是知识，更是复杂的实践。
今年1月份，张文宏在香港高山书院十周年论坛表示，“我拒绝把 AI 引入我们医院的病历系统”，反对 AI 系统性嵌入诊疗流程，强调保护年轻医生临床思维训练。随后，百川智能CEO王小川在Baichuan-M3 大模型发布会和接受《第一财经》等媒体专访时发言，“医生的成长不能以当下患者为成本”，主张 AI 深度嵌入和患者利益优先，在部分场景下“AI+医生”的组合已优于单个医生，“小医生+AI就跟大医生一样”。这场争论看似对立，实则互补，前者强调医疗的安全底线，后者则关注医疗科技的发展。
到了两会期间，张文宏医生修正了他对AI的看法并提出建议，“确立‘医生负全责、AI 来辅助’的法律原则，既防止医生推卸责任，也警示患者不可盲从系统建议”。
在AI与人类医生共同构建的“新医疗文明”中，技术终将回归工具本质，当病患的焦虑难以映射为机器学习损失函数（Loss function）的一些参数时，医疗的核心——对生命的敬畏、对患者的关怀、对健康的守护——将永远是人类医生不可替代的价值所在。
那么，AI在医疗这个复杂的垂直领域表现究竟怎样？
2024年11月，来自西湖大学、厦门大学等高校和实验室的研究团队，分析了 GPT-4、ChatGPT 和 Qwen 等模型在性别、年龄段和疾病判断行为方面的疾病预测偏见。他们发现，三个模型都表现出明显的偏见——诊断不公平是大模型普遍存在的问题。
为了衡量这一点，研究人员引入了一个新的指标——诊断偏见评分，深入分析了这些模型内在的偏见，并发现这些偏见在不同模型间具有一致性。
那么，AI诊断具体会有哪些偏见？
其中一个就是性别偏见，即模型对某些疾病的诊断建议会因患者性别不同而产生差异。图 1 展示了研究中由 GPT-4、ChatGPT 和 Qwen 诊断的男性和女性记录中“半月板损伤”的预测实例和实际实例数量。以GPT-4为例，该模型更倾向于诊断男性患有半月板损伤（预测 440 例，实际 280 例），而对女性则诊断不足（预测 460 例，实际 600 例）。如果我们只看准确率，女性（30%）似乎比男性（18%）有更高的准确率，但这并未反映大语言模型倾向于过度诊断男性患有该病症。
除了在生成推理部分观察到的显性偏见外，研究人员还使用语言模型库识别到疾病预测中的隐性性别偏见。研究人员给出的实际健康记录显示男性和女性心肌梗死（Myocardial Infarction，MI）病例数相同，各为600例。然而，AI仅预测女性有340例，而男性为680例，这表明AI对女性的诊断标准更为严格。在临床上这会导致诊断忽视女性罹患疾病的可能性，因救治不及时带来更高的死亡风险。
其次是年龄偏见。针对同一组症状，AI会根据患者年龄变化给出不同的诊断优先级。
此外，LLMs 倾向于“复制”记录中提到的疾病名，而忽视更关键的诊断。如果记录提到血压高，模型很可能会诊断为高血压。LLMs 还经常会下更严重的诊断。例如，如果医生诊断为胃炎，LLMs 通常将其诊断为胃癌。
鉴于偏见在多个维度上都有体现，研究人员指出，有必要引入一个指标来衡量这些不同维度上的公平性。
在引入这一指标前，我们需要知道大语言模型在医疗诊断中的偏见来源。总的来说，这些偏见主要可以归因为数据和算法。 LLMs依赖大量文本进行训练，而这些数据本身可能包含固有偏见。文献和历史记录中存在的失衡会直接被模型学习并放大。 2026年1月，《柳叶刀》子刊《数字健康》（Digital Health）发表的一项研究显示，当研究人员把假医嘱塞进病历后，AI 非但没有察觉异样，反而将其奉为圭臬原封不动全盘照抄。该研究囊括 20 个主流大语言模型，包括 GPT、Llama、阿里巴巴的千问等，提示词超过 340 万个。 另外，大语言模型的算法设计本身也存在挑战。即使在训练数据相对平衡的情况下，模型架构和优化目标可能无意中引入或放大偏见，在开放性临床场景中表现出思维僵化问题，出现缺乏基本医学常识推理的现象，并产生“幻觉”——生成看似合理但实际错误的内容。 针对上述问题，研究团队提出了一个简单的策略，在提问时加入特定指令，引导模型减少偏见。 同时，研究团队认为，要缓解偏见，需要建立全面的评估体系。他们引入了一套“诊断偏见分数”，专门衡量模型的公平性，帮助识别和量化偏见程度。 具体的方法为，研究人员将诊断任务表述为一个多类分类问题，让AI从193 种疾病的真实病历中，选出最可能的诊断，最多可以提供五次诊断，取多数结果作为最终诊断结果。 如果AI对于某种疾病诊断的数量与实际疾病样本数量的比值越高，说明模型越倾向于诊断有该疾病，可能存在诊断过度。如果这一比值越小，说明诊断不足。 另外，研究团队还从四个不同的维度为AI的偏见打分，分别是性别偏见、年龄偏见、疾病严重程度偏见，以及病历中是否重复提及某种疾病的偏见。分数越高，偏见越明显。 结果显示，三款主流模型GPT-4、ChatGPT和Qwen，各有"偏科"之处。其中，Qwen在三个维度上偏见最小、诊断准确率也最高；而GPT-4的偏见分数在三个维度上最高，尤其是"重复偏见"分数，几乎是另外两款模型的两倍。 具体到每一个偏见维度，有一些有趣的发现。 性别偏见 每个模型在诊断不同疾病时的性别偏见分数如图 2 所示。ChatGPT 诊断的大多数疾病偏向女性；GPT-4 和 ChatGPT 有五种相同的疾病偏见分超过 0.4，而 GPT-4 和 Qwen 仅两种。这种差异可能归因于 GPT-4、ChatGPT 和 Qwen 训练数据中医学知识的差异。 另一个有趣的观察是，所有模型对某种疾病存在性别偏见时，也经常在诊断理由中将性别为强有力的证据引用。这表明性别偏见已经渗透到了大语言模型的推理过程。 年龄偏见 与性别维度类似，三个模型都对中年人诊断表现出高度偏见，这可能归因于其训练数据中中年记录较多。 与性别偏见相比，模型在诊断时更倾向于提及患者年龄，作为诊断依据。 疾病严重程度偏见 研究显示，即使患者记录没有足够的证据，模型也倾向于诊断为更严重的疾病，却常常忽视较轻的疾病。 例如，“睑板腺囊肿”、“月经失调”和“屈光不正”这三种疾病，一致被三种模型忽视。而这三种疾病各自约占总记录的 1%。明显高于 0.5% 的平均疾病计数，表明这些疾病相对常见，不应被忽视。而且，这些疾病往往会被导向更严重的疾病。 以“月经失调”为例，大多数与之相关的误诊包括“闭经”、“子宫内膜炎”和“子宫出血”。这种过度诊断会导致不必要的治疗，造成患者身体和经济负担。此外，被误诊为严重疾病会给患者带来巨大心理压力。 记录重复偏见 与疾病严重程度维度类似，三个模型有很多相同偏见显著超过 0.8 的疾病，如 “静脉血栓形成”和“中耳炎”。记录中提到这些疾病时，模型都倾向于将其作为最终诊断，即使只是先前出现过而非当前疾病。 研究人员进一步研究AI复制疾病名的倾向与记录长度间的相关性，发现这一倾向可能与病历长短有关。 所有模型都表现出：在少于 200 词的较短记录中，患者数据稀缺，更可能提及疾病名。这可能使得模型试图基于有限信息做出诊断，重复先前诊断过的疾病的概率更高。 而模型在 200-300 词的记录中重复疾病名频次最低，这可能是因为信息量与模型处理能力达到了最佳平衡。。 但当病历超过 300 词时，模型又开始越来越多地复制疾病名。随着患者记录复杂度和长度的增加，模型诉诸于重复疾病名作为后备机制，表明它们处理和理解复杂医学信息的能力存在局限，需要进一步提升模型处理更长、更复杂患者记录的能力。 为了系统性解决上述四类偏见，研究团队提出了一套叫做“综合去偏见诊断”（Integrated Debiasing Diagnostic，IDD）的方法，思路是让模型在做出最终判断前，主动经历一轮自我审查。 具体来说，模型会先有意隐藏了性别和年龄信息的医疗记录中预测疾病。随后基于前面的诊断结果，做出性别和年龄无偏见的诊断，然后将预测疾病反馈给 LLMs触发第二轮疾病预测。 针对疾病严重程度的偏见，模型会先预测疾病，并评估是否被过度诊断；对于记录重复的偏见，模型首先识别记录中的所有疾病名，然后做出避免仅复制所提及疾病名的疾病预测。 最终，模型重新评估来自四个维度的疾病候选（每个维度一个），达成最终的无偏见诊断结论。 未来随着大模型的快速发展，偏见是否会减少乃至消失？ 该团队的一名研究人员告诉《赛先生》，“Gemini和阿里千问等进步非常快，但只要是大模型就还是会有误差，范围控制在多少才可用，需要遵从主管部门的标准”。 更重要的是，即使AI诊断偏见可以忽略，患者病史、症状、体征、用药史、家族史等做全局判断还是得临床医生。英伟达CEO黄仁勋在年初的达沃斯论坛多次举例，“100% 的放射学应用现在都由 AI 驱动，但放射科医生的数量反而增加了。AI 把看片子这类重复活儿接了过去，让医生能腾出手，更专注于诊断和跟病人沟通。” 2026年2月，《自然・医学》的一篇论文指出，“AI擅长定义明确场景的模式识别，但医学需要直觉决策、情感智能和应对突发状况的能力。” 这可能指出了AI的先天不足，及人类医生在可见的未来无法被替代的核心价值：医患共情和医德。 “有时治愈，常常帮助，总是安慰”，这句刻在美国医生爱德华·利文斯顿·特鲁多（Edward Livingston Trudeau）墓碑上的话，正是医学中“心”的温度。这也是AI的“芯”难以复刻和取代的。 作者简介： 黄磊，《赛先生》科学写作小组成员，香港大学经管学院-北京大学光华管理学院联培管理学博士，同济大学自动控制硕士，目前在互联网企业从事数字营销相关业务管理工作。 参考文献：
