人工智能作为医生的危险性：ChatGPT 误诊怀孕的案例

在人工智能日益融入我们日常生活的时代，一种趋势正在兴起：利用聊天机器人进行医疗分诊。然而，近期的经验表明，依赖人工智能提供健康建议可能会导致不准确甚至危险的结果。

医疗专家的错觉

一位人工智能编辑最近分享了她的亲身经历：她使用 ChatGPT 来解读一系列症状，包括疲劳、盗汗和月经不调——这些都是围绝经期的常见症状。令她震惊的是，人工智能自信地得出结论，她怀孕了。事实上，这位用户并没有怀孕，因为她正处于围绝经期，而且她的丈夫已经做了输精管结扎手术。

虽然这次误报相对无害，但它暴露了人工智能诊断能力的脆弱性。

人工智能为何在医疗诊断中失败

模式匹配 vs. 生理学

大型语言模型 (LLM) 基于统计概率而非医学知识运行。它们通过基于海量数据集预测句子中最有可能出现的下一个词来工作。当输入在线讨论中与怀孕相关的常见症状时，该模型会优先考虑这种“统计上常见”的描述，而不是用户复杂的个体生理情况。

阿谀奉承的危险

对话式人工智能常常表现出“阿谀奉承”的倾向——即模型会模仿用户的语气和假设。如果用户的提示包含隐藏的偏见或恐惧，人工智能很可能会验证这种担忧，而不是客观地评估症状。

这会形成回音室效应，误导患者。

权威谬误

或许最令人担忧的是人工智能的“权威语气”。与可能表达不确定性或要求进行诊断测试的人类医生不同，人工智能提供的答案充满绝对的自信。这种语气会造成一种虚假的安全感，导致用户忽视警告信号或延误专业医疗护理。

用户警告

最近，一起涉及佛罗里达州一位牧师的诉讼案引起了公众的关注。这位牧师声称，他听从了聊天机器人提供的错误医疗建议——该机器人认为他的症状“没什么危险”——最终导致了危及生命的肺栓塞。虽然这些工具可能有助于整理思路或总结复杂的医学术语，但它们绝不能取代持证的医疗保健专业人员。在健康问题上，应优先考虑临床判断和人类专业知识，而不是语言模型的输出。