AI依然不安全！医疗记录中的小错误就可能让人工智能医生陷入危险

抖音推荐 2025年09月01日 17:13 1 admin

在人工智能（AI）被寄望于彻底改变医疗保健的今天，一项来自麻省理工学院（MIT）的最新研究揭示了一个令人不安的现实：支撑这些先进系统的算法，可能根本“听不懂”人类在病痛中所使用的真实语言。一个简单的拼写错误、一句俚语、甚至是一段充满情感的绝望陈述，都可能成为一道不可逾越的“语言障壁”，导致AI医生做出潜在致命的错误判断——建议一位急需救治的病人留在家中。

这项研究犹如一枚投入平静湖面的石子，不仅暴露了当前医疗AI模型的内在脆弱性，更引发了对一个更深层次问题的拷问：当我们将人类最复杂的生命健康问题交由一个不懂得人类复杂性的系统来辅助判断时，我们究竟是在走向进步，还是在埋下新的、系统性的风险？

实验室中的“现实世界”：一次对AI临床能力的压力测试

由MIT电气工程与计算机科学教授玛兹耶·加塞米（Marzyeh Ghassemi）领导的团队，设计了一场精妙的实验，旨在系统性地检验AI模型在面对非标准化、充满“人性”的语言时的反应。他们的目的并非测试AI在理想条件下的理论性能，而是模拟真实世界中，医生每天都会遇到的混乱、模糊且充满情感的病人陈述。

研究人员从真实的医疗记录以及社交媒体平台Reddit上的健康咨询板块收集了大量原始数据。随后，他们对这些文本进行了细致的“污染”处理，但核心病症信息保持不变。这些处理包括引入拼写错误、不规范的语法（如全篇小写）、多余的空格，以及模仿患者在不确定状态下常用的模糊词汇，例如“有点”、“可能”等。

更进一步，团队还加入了高度情绪化的表达，这些表达在真实的医患沟通中极为常见，比如一句充满绝望的“我以为我快要死了”。这些经过“现实化”处理的病例，被输入包括OpenAI的GPT-4在内的四种主流AI模型中，并要求模型判断患者是否应该去看医生、进行化验，或是无需任何医疗干预。

结果是惊人的，甚至可以说是令人不寒而栗的。研究数据显示，当AI模型读取这些语言上不完美、但情感上更真实的病人陈述时，它们建议患者“无需就医”的概率，比读取原始、清晰的临床文本时高出了7%到9%。这意味着，仅仅因为表达方式的不同，一个潜在的急诊病人就可能被AI系统“劝退”。

“添加额外的信息，即使这些信息是真实且相关的，也常常会降低模型的准确性，”未参与此项研究的慕尼黑工业大学研究员保罗·哈格尔（Paul Hager）在接受《波士顿环球报》采访时评论道。“这是一个复杂的问题……但关于如何在更根本的层面上解决这个问题的研究却很少。”

加塞米教授的结论则更为直接和警示：“我很清楚，如果这些系统部署不当，没有认识到人类数据所带来的负担，就会造成危害。”她警告说，在当前的AI技术水平下，过度依赖这些工具的医生，可能会无意中歧视那些英语非母语、文化背景不同，或仅仅是在描述病情时带有情绪的患者。

代码深处的幽灵：被放大的性别与种族偏见

这项研究最令人警醒的发现，或许还不是AI对语言错误的敏感，而是它如何像一面放大镜，折射并加剧了医疗领域早已存在的系统性偏见。

在测试中，AI模型对女性患者的病情给出了尤为错误的、倾向于“降低护理级别”的建议。长期以来，医学界一直存在轻视女性病痛报告的现象，常常将其归咎于“情绪化”或所谓的“歇斯底里症”。而现在，AI似乎正在从其训练数据中学习并固化这种有害的偏见。

真正让加塞米感到“有点吓人”的是，即使研究人员从病人的陈述中删除了所有与性别相关的明确信息（如代词），AI模型依然能以极高的准确率判断出陈述者是女性。“这真是太神奇了，”她表示，这种能力恰恰证明了偏见已经深深地编码在语言模式本身之中，并被AI毫无批判地吸收。

这种偏见不仅限于性别。加塞米此前发表的另一项研究表明，AI在分析文本时，对亚裔和黑人用户的同理心反应会显著降低。这意味着，AI的“语言障壁”不仅是技术性的，更是社会性的。它正在无形中建立一种新的歧视形式：算法上的歧视。那些无法以“标准”的、冷静的、符合机器逻辑的方式进行沟通的群体，正在被推向医疗服务的边缘。

医生的困境：当AI成为“技能衰退”的催化剂

AI在医疗领域的风险，并不仅仅在于机器自身的错误。另一个同样严峻的问题是，这些工具正在如何改变和影响人类医生的专业能力。这一现象被称为“技能衰退”（skill decline）。

最近发表在权威医学期刊《柳叶刀胃肠病学和肝病学》上的一项研究，为这一担忧提供了有力的证据。研究发现，那些使用AI工具辅助识别癌前病变的胃肠病学家，在停止使用AI后，他们独立发现病变的能力显著下降了。换言之，AI在扮演“助手”角色的同时，似乎也在悄无声'息地削弱医生的核心诊断技能。

“如果我失去了这些技能，我该如何发现（AI的）错误呢？”伦敦大学学院医院的胃肠病学家奥默·艾哈迈德（Omer Ahmad）在接受《纽约时报》采访时提出了这个关键问题。他的话揭示了一个危险的悖论：我们越是依赖AI来避免错误，就越可能失去发现和纠正AI错误的能力。

将这一观点与加塞米团队的研究相结合，一幅令人忧虑的未来图景便浮现出来：一位医生将患者充满拼写错误和情感色彩的邮件输入AI系统，AI给出了错误的“无需就医”建议。而这位医生，由于长期依赖AI，可能已经丧失了从字里行间捕捉人类微妙求助信号的敏感性，从而接受了这个错误的建议。在这种情况下，AI不仅没有提升医疗质量，反而成为了通往医疗事故的催化剂。

监管的必要性：为临床AI设定公平的底线

面对AI模型中固有的技术缺陷和社会偏见，以及其对人类专家技能的潜在侵蚀，单纯依靠技术自身的迭代升级似乎已不足以解决问题。加塞米教授和越来越多的行业观察者呼吁，必须建立更严格的监管框架。

“我们需要制定法规，将公平性作为临床人工智能的强制性性能标准，”加塞米强调。“你必须在多样化、有代表性的数据集上进行训练。”这意味着，AI模型的开发者不能再仅仅满足于在干净、标准化的数据集上取得高分，而必须证明其产品在面对真实世界的多样性——包括语言、种族、性别和文化的多样性时，依然能够保持稳健和公正。

对于那些已经开始直接向聊天机器人寻求医疗建议的普通用户而言，这项研究的警示意义更为重大。一个因为输入时的拼写错误而被AI告知无需就医的用户，其面临的风险是直接而现实的。

最终，人工智能在医疗领域的未来，不应是一场机器取代人类的零和游戏，而应是一种谨慎、负责任的伙伴关系。在算法能够真正理解人类病痛的复杂性和多样性之前，人类医生的经验、同理心以及与患者建立联系的独特能力，仍是医疗服务中不可或缺的最后一道防线。确保这道防线不被看似智能的技术所侵蚀，是所有从业者和监管机构必须共同面对的挑战。