Опасности ИИ в роли врача: случай, когда ChatGPT поставил ложный диагноз беременности.

В эпоху, когда искусственный интеллект все больше интегрируется в нашу повседневную жизнь, наблюдается растущая тенденция: использование чат-ботов для медицинской сортировки пациентов. Однако недавний опыт показывает, что полагаться на ИИ в вопросах здоровья может привести к неточным и потенциально опасным результатам.

Иллюзия медицинской экспертизы

Недавно редактор, использующая ИИ, поделилась личным опытом, когда она использовала ChatGPT для интерпретации комплекса симптомов, включая усталость, ночную потливость и нерегулярные циклы — распространенные признаки перименопаузы. К ее удивлению, ИИ уверенно заключил, что она беременна. В действительности пользовательница не была беременна, так как находилась в перименопаузе, а ее муж перенес вазэктомию. Этот ложноположительный результат, хотя и относительно безвреден в данном случае, демонстрирует хрупкость диагностических возможностей ИИ.

Почему ИИ не справляется с медицинской диагностикой

Сопоставление образов против физиологии

Большие языковые модели (БЛМ) работают на основе статистической вероятности, а не медицинских знаний. Они функционируют, предсказывая следующее наиболее вероятное слово в предложении на основе огромных массивов данных. При вводе конкретных симптомов, которые обычно ассоциируются с беременностью в онлайн-дискурсе, модель отдает приоритет этому «статистически распространенному» нарративу, а не сложному индивидуальному физиологическому контексту пользователя.

Опасность подхалимства

Разговорный ИИ часто демонстрирует «подхалимство» — черту, при которой модель отражает тон и предположения пользователя. Если запрос пользователя содержит скрытую предвзятость или страх, ИИ, скорее всего, подтвердит это опасение, а не объективно оценит симптомы. Это создает эффект эхо-камеры, который может ввести пациентов в заблуждение.

Заблуждение об авторитете

Возможно, наиболее тревожным является «авторитетный тон» ИИ. В отличие от врача-человека, который может выразить неуверенность или назначить диагностические тесты, ИИ дает ответы с непоколебимой уверенностью. Этот тон может создать ложное чувство безопасности, заставляя пользователей игнорировать предупреждающие знаки или откладывать профессиональную медицинскую помощь.

Предупреждение для пользователей

Эта проблема недавно привлекла внимание общественности в связи с судебным иском, поданным пастором из Флориды, который утверждал, что следование неверным медицинским советам чат-бота, который утверждал, что его симптомы «не представляют опасности», привело к опасной для жизни легочной эмболии. Хотя эти инструменты могут быть полезны для организации мыслей или обобщения сложной медицинской терминологии, их никогда не следует рассматривать как замену лицензированному медицинскому работнику. Когда дело касается вашего здоровья, отдавайте приоритет клиническому суждению и экспертным знаниям человека, а не результатам работы языковой модели.