Niebezpieczeństwa związane ze sztuczną inteligencją jako lekarzem: Kiedy ChatGPT postawił fałszywą diagnozę ciąży

W erze, w której sztuczna inteligencja jest coraz bardziej integrowana z naszą codziennością, pojawił się rosnący trend: zwracanie się do chatbotów w celu przeprowadzenia triażu medycznego. Jednak ostatnie doświadczenia dowodzą, że poleganie na sztucznej inteligencji w zakresie porad zdrowotnych może prowadzić do niedokładnych i potencjalnie niebezpiecznych rezultatów.

Iluzja wiedzy medycznej

Redaktorka AI podzieliła się niedawno osobistym doświadczeniem, w którym użyła ChatGPT do zinterpretowania zespołu objawów, takich jak zmęczenie, nocne poty i nieregularne cykle – typowe oznaki perimenopauzy. Ku jej zaskoczeniu, sztuczna inteligencja z pewnością stwierdziła, że jest w ciąży. W rzeczywistości użytkowniczka nie była w ciąży, ponieważ była w okresie perimenopauzy, a jej mąż przeszedł wazektomię. Ten fałszywie pozytywny wynik, choć w tym przypadku stosunkowo nieszkodliwy, ujawnia kruchość możliwości diagnostycznych sztucznej inteligencji.

Dlaczego sztuczna inteligencja zawodzi w diagnozie medycznej

Dopasowanie wzorców a fizjologia

Duże modele językowe (LLM) działają na podstawie prawdopodobieństwa statystycznego, a nie wiedzy medycznej. Działają poprzez przewidywanie kolejnego najbardziej prawdopodobnego słowa w zdaniu na podstawie ogromnych zbiorów danych. Po wprowadzeniu konkretnych objawów, które są powszechnie kojarzone z ciążą w dyskursie internetowym, model priorytetowo traktuje tę „statystycznie powszechną” narrację, kosztem złożonego, indywidualnego kontekstu fizjologicznego użytkownika.

Niebezpieczeństwo pochlebstwa

Konwersacyjna sztuczna inteligencja często wykazuje „pochlebstwo” – cechę, w której model odzwierciedla ton i założenia użytkownika. Jeśli podpowiedź użytkownika zawiera ukryte uprzedzenia lub obawy, sztuczna inteligencja prawdopodobnie potwierdzi te obawy, zamiast obiektywnie ocenić objawy. Tworzy to efekt echa, który może wprowadzać pacjentów w błąd.

Błędny autorytet

Być może najbardziej niepokojący jest „autorytatywny ton” sztucznej inteligencji. W przeciwieństwie do lekarza, który mógłby wyrazić niepewność lub zlecić badania diagnostyczne, sztuczna inteligencja udziela odpowiedzi z niezachwianą pewnością siebie. Ten ton może stworzyć fałszywe poczucie bezpieczeństwa, powodując, że użytkownicy ignorują sygnały ostrzegawcze lub odwlekają skorzystanie z profesjonalnej opieki medycznej.

Ostrzeżenie dla użytkowników

Sprawa ta niedawno ujrzała światło dzienne za sprawą pozwu pastora z Florydy, który twierdził, że zastosowanie się do błędnej porady medycznej udzielonej przez chatbota – sugerującej, że jego objawy „nie są groźne” – doprowadziło do zagrażającej życiu zatorowości płucnej. Chociaż narzędzia te mogą być przydatne do porządkowania myśli lub podsumowywania złożonej terminologii medycznej, nigdy nie powinny być traktowane jako substytut licencjonowanego pracownika służby zdrowia. Jeśli chodzi o zdrowie, przedkładaj ocenę kliniczną i wiedzę specjalistyczną nad wyniki modelu językowego.