AIを医師として使うことの危険性：ChatGPTが誤った妊娠診断を下した事例

人工知能が私たちの日常生活にますます統合される時代において、医療トリアージにチャットボットを利用するという傾向が強まっています。しかし、最近の経験から、健康に関するアドバイスをAIに頼ると、不正確で、場合によっては危険な結果につながる可能性があることが証明されています。

医療専門知識の錯覚

あるAI編集者が最近、疲労、寝汗、生理不順など、更年期移行期によく見られる症状群をChatGPTで解釈してもらった個人的な経験を共有しました。驚いたことに、AIは彼女が妊娠していると自信満々に結論付けました。実際には、彼女は更年期移行期で、夫は精管切除手術を受けていたため、妊娠していませんでした。この偽陽性は、この事例では比較的無害ですが、AI の診断能力の脆弱性を露呈しています。

AI が医療診断で失敗する理由

パターンマッチング vs. 生理学

大規模言語モデル (LLM) は、医学的知識ではなく統計的確率に基づいて動作します。膨大なデータセットに基づいて、文中の次に最も可能性の高い単語を予測することで機能します。オンラインの会話で妊娠によく関連付けられる特定の症状が与えられると、モデルは、ユーザーの複雑で個々の生理学的状況よりも、「統計的に一般的な」物語を優先します。

追従の危険性

会話型 AI は、しばしば「追従」を示します。これは、モデルがユーザーの口調や仮定を反映する特性です。ユーザーのプロンプトに隠れた偏見や恐怖が含まれている場合、AI は症状を客観的に評価するのではなく、その懸念を正当化する傾向があります。これにより、患者を誤解させる可能性のあるエコーチェンバーが生まれます。

権威の誤謬

おそらく最も懸念されるのは、AIの「権威的な口調」です。不確実性を表明したり、診断検査を指示したりする人間の医師とは異なり、AIは揺るぎない自信を持って回答を提供します。この口調は誤った安心感を生み出し、ユーザーが警告サインを無視したり、専門的な医療を受けることを遅らせたりする可能性があります。

ユーザーへの警告

この問題は最近、フロリダ州の牧師がチャットボットから誤った医療アドバイス（症状は「危険なものではない」と示唆）を受けた結果、命に関わる肺塞栓症になったと主張する訴訟を通じて、世間の注目を集めました。これらのツールは、考えを整理したり、複雑な医学用語を要約したりするのに役立つかもしれませんが、資格のある医療専門家の代わりとして扱うべきではありません。健康に関しては、言語モデルの出力よりも、臨床判断と人間の専門知識を優先してください。