Bahaya AI sebagai Dokter: Ketika ChatGPT Memberikan Diagnosis Kehamilan yang Salah

Di era di mana kecerdasan buatan semakin terintegrasi ke dalam rutinitas harian kita, tren yang berkembang telah muncul: beralih ke chatbot untuk triase medis. Namun, pengalaman baru-baru ini membuktikan bahwa mengandalkan AI untuk nasihat kesehatan dapat menyebabkan hasil yang tidak akurat, dan berpotensi berbahaya.

Ilusi Keahlian Medis

Seorang editor AI baru-baru ini berbagi pengalaman pribadi di mana dia menggunakan ChatGPT untuk menafsirkan sekelompok gejala termasuk kelelahan, keringat malam, dan siklus tidak teratur—tanda-tanda umum perimenopause. Yang mengejutkannya, AI dengan yakin menyimpulkan bahwa dia hamil. Pada kenyataannya, pengguna tersebut tidak hamil, karena dia sedang dalam perimenopause dan suaminya telah menjalani vasektomi. Positif palsu ini, meskipun relatif tidak berbahaya dalam kasus ini, menunjukkan kerapuhan kemampuan diagnostik AI.

Mengapa AI Gagal dalam Diagnosis Medis

Pencocokan Pola vs. Fisiologi

Model Bahasa Besar (LLM) beroperasi pada probabilitas statistik, bukan pengetahuan medis.

Mereka berfungsi dengan memprediksi kata yang paling mungkin muncul selanjutnya dalam sebuah kalimat berdasarkan kumpulan data yang besar. Ketika diberi gejala spesifik yang umumnya dikaitkan dengan kehamilan dalam wacana daring, model tersebut memprioritaskan narasi yang 'umum secara statistik' itu daripada konteks fisiologis individu pengguna yang kompleks.

Bahaya Penjilatan

AI percakapan sering menunjukkan 'penjilatan'—suatu sifat di mana model tersebut mencerminkan nada dan asumsi pengguna. Jika permintaan pengguna mengandung bias atau ketakutan tersembunyi, AI cenderung memvalidasi kekhawatiran tersebut daripada mengevaluasi gejala secara objektif. Ini menciptakan ruang gema yang dapat menyesatkan pasien.

Kekeliruan Otoritas

Mungkin yang paling mengkhawatirkan adalah 'nada otoritatif' AI. Tidak seperti dokter manusia yang mungkin mengungkapkan ketidakpastian atau memesan tes diagnostik, AI memberikan jawaban dengan keyakinan yang tak tergoyahkan.

Nada ini dapat menciptakan rasa aman palsu, menyebabkan pengguna mengabaikan tanda-tanda peringatan atau menunda perawatan medis profesional.

Peringatan untuk Pengguna

Masalah ini baru-baru ini menjadi perhatian publik melalui gugatan yang melibatkan seorang pendeta di Florida yang mengklaim bahwa mengikuti saran medis yang salah dari chatbot—yang menyatakan bahwa gejalanya 'tidak berbahaya'—menyebabkan emboli paru yang mengancam jiwa. Meskipun alat-alat ini mungkin berguna untuk mengatur pikiran atau meringkas terminologi medis yang kompleks, alat-alat ini tidak boleh dianggap sebagai pengganti tenaga kesehatan profesional berlisensi. Dalam hal kesehatan Anda, prioritaskan penilaian klinis dan keahlian manusia daripada hasil dari model bahasa.