点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

还没挂号,先问AI;报告看不懂,拍张照片让它解释。如今,不少人看病前,会先和AI聊一聊。它能把病因、检查、注意事项等说得条理清楚。但回答得像医生,就意味着判断可靠吗?
从手机里的健康咨询,到医院里的影像分析,AI承担的任务不同,可靠性也需要分别验证。即使某项测试的准确率很高,也要问清楚:这个成绩是怎么测出来的,到了真实诊疗中,又适用于哪些患者?
很多AI模型的高准确率来自实验室测试。在这种情况下,数据通常经过整理和标注,病例信息比较完整,疾病类型也相对明确。但真实医院环境中的患者并不会像医学教材一样描述症状。有人会说“头晕得像踩在棉花上一样”,有人会说“感觉脑子发飘”,还有患者可能因为年龄、语言习惯或紧张无法准确表达自己的情况。这些不确定因素都会增加AI判断的难度。
此外,整体准确率也可能掩盖不同疾病之间的差异。对于常见疾病,AI可以通过大量数据学习规律,因此表现较好。但面对罕见病和复杂疾病时,AI的能力可能明显下降。技术带来的还有伦理困境:罕见病患者更容易遭遇漏诊,由此造成健康权益上的不公平。因此,一个看似漂亮的数字,并不能代表AI在所有患者身上都同样可靠。
很多人认为,医生诊断疾病就是根据症状寻找对应疾病。但实际上,临床判断远比数据库搜索复杂。医生不仅需要分析检查结果,也会观察患者的状态。例如,一个患者表示“胸闷”,AI可能根据统计数据,判断为更常见的焦虑或胃食管反流。但经验丰富的医生可能注意到患者脸色、动作、出汗情况等细节,从而进一步怀疑是不是心血管问题。这些信息往往难以被数字化。临床诊疗本质是“人对人”的照护,不能完全简化成数据计算。
除了准确性,医疗AI还有一个重要问题:算法可解释性不足。医生一般会向患者解释自己的诊断过程。人工智能模型通常通过大量参数建立预测关系。它可以给出答案,却不一定能清楚说明为什么得出这个答案。如果AI判断错误,法律责任该如何判定,是开发AI的企业?是使用AI的医院?还是采纳AI建议的医生?
医疗AI还面临另一个风险问题:算法偏见。AI的能力来自训练数据。如果数据本身存在不足,模型可能学习到其中隐藏的问题。《自然・机器智能》的一项研究在讨论临床机器学习的算法公平时指出,机器学习模型容易受到训练数据组成的影响而产生偏见,在医疗领域,算法结果会导致有些群体得到错误诊断或者接收到不同质量的医疗服务,从而加剧医疗保健领域的社会公平差距。
那么,医院是否应该拒绝使用人工智能?答案是否定的。它可以帮助医生快速分析大量影像资料,发现潜在异常;可以整理病历信息,减少重复劳动;也可以帮助基层医疗机构提高诊断效率。
但未来更合理的模式,并不是让AI取代医生,而是让AI成为医生的助手。AI更适合负责处理大量数据、寻找异常信号、提供辅助建议;医生则负责结合患者实际情况进行综合判断,并承担最终决策责任。
医疗领域的人工智能,绝不能仅凭亮眼的准确率就被轻易信任。只有当AI既拥有强大的计算能力,又具备可解释性、责任体系,它才可能真正成为医疗体系中的可靠伙伴。
监 制
光明网科普事业部
科学性审核
余卿(中国科普研究所博士后)
邹贞(中国科普研究所副研究员)
策 划
宋雅娟
编 导
宋雅娟 肖春芳
联合出品
中国科协科普部
光明网
中国科普作家协会
