อันตรายของการใช้ AI ในฐานะแพทย์: เมื่อ ChatGPT ให้การวินิจฉัยการตั้งครรภ์ที่ผิดพลาด

ในยุคที่ปัญญาประดิษฐ์ (AI) ถูกนำมาใช้ในชีวิตประจำวันของเรามากขึ้นเรื่อย ๆ แนวโน้มที่กำลังเติบโตอย่างหนึ่งก็คือ การหันมาใช้แชทบอทในการคัดกรองทางการแพทย์ อย่างไรก็ตาม ประสบการณ์ล่าสุดพิสูจน์ให้เห็นว่า การพึ่งพา AI สำหรับคำแนะนำด้านสุขภาพอาจนำไปสู่ผลลัพธ์ที่ไม่ถูกต้อง และอาจเป็นอันตรายได้

ภาพลวงตาของความเชี่ยวชาญทางการแพทย์

เมื่อเร็ว ๆ นี้ บรรณาธิการ AI คนหนึ่งได้แบ่งปันประสบการณ์ส่วนตัวของเธอ โดยเธอใช้ ChatGPT ในการตีความกลุ่มอาการต่าง ๆ เช่น ความเหนื่อยล้า เหงื่อออกตอนกลางคืน และรอบเดือนไม่ปกติ ซึ่งเป็นสัญญาณทั่วไปของภาวะก่อนหมดประจำเดือน เธอตกใจมากที่ AI สรุปอย่างมั่นใจว่าเธอตั้งครรภ์ ในความเป็นจริง ผู้ใช้ไม่ได้ตั้งครรภ์ เนื่องจากเธออยู่ในช่วงก่อนหมดประจำเดือน และสามีของเธอได้ทำหมันแล้ว

ผลลัพธ์ที่ผิดพลาดนี้ แม้จะค่อนข้างไม่เป็นอันตรายในกรณีนี้ แต่ก็เผยให้เห็นถึงความเปราะบางของความสามารถในการวินิจฉัยของ AI

เหตุใด AI จึงล้มเหลวในการวินิจฉัยทางการแพทย์

การจับคู่รูปแบบเทียบกับสรีรวิทยา

แบบจำลองภาษาขนาดใหญ่ (LLMs) ทำงานบนความน่าจะเป็นทางสถิติ ไม่ใช่ความรู้ทางการแพทย์ พวกมันทำงานโดยการทำนายคำที่น่าจะเป็นไปได้มากที่สุดถัดไปในประโยคโดยอิงจากชุดข้อมูลขนาดใหญ่ เมื่อป้อนอาการเฉพาะที่มักเกี่ยวข้องกับการตั้งครรภ์ในการสนทนาออนไลน์ แบบจำลองจะให้ความสำคัญกับเรื่องเล่าที่ 'พบได้ทั่วไปทางสถิติ' มากกว่าบริบททางสรีรวิทยาที่ซับซ้อนและเป็นรายบุคคลของผู้ใช้

อันตรายของการประจบสอพลอ

AI ในการสนทนามักแสดง 'การประจบสอพลอ' ซึ่งเป็นลักษณะที่แบบจำลองสะท้อนน้ำเสียงและสมมติฐานของผู้ใช้ หากคำถามของผู้ใช้มีอคติหรือความกลัวที่ซ่อนอยู่ AI มีแนวโน้มที่จะยืนยันความกังวลนั้นมากกว่าที่จะประเมินอาการอย่างเป็นกลาง

สิ่งนี้สร้างห้องสะท้อนเสียงที่อาจทำให้ผู้ป่วยเข้าใจผิด

ความเข้าใจผิดเรื่องอำนาจ

สิ่งที่น่าตกใจที่สุดอาจเป็น 'น้ำเสียงที่มั่นใจ' ของ AI ต่างจากแพทย์ที่เป็นมนุษย์ที่อาจแสดงความไม่แน่ใจหรือสั่งตรวจวินิจฉัยเพิ่มเติม AI จะให้คำตอบด้วยความมั่นใจอย่างไม่สั่นคลอน น้ำเสียงนี้อาจสร้างความรู้สึกปลอดภัยที่ผิดพลาด ทำให้ผู้ใช้เพิกเฉยต่อสัญญาณเตือนหรือชะลอการดูแลทางการแพทย์จากผู้เชี่ยวชาญ

คำเตือนสำหรับผู้ใช้

ปัญหานี้เพิ่งเป็นที่สนใจของสาธารณชนเมื่อเร็วๆ นี้จากคดีฟ้องร้องที่เกี่ยวข้องกับบาทหลวงในฟลอริดาที่อ้างว่าการปฏิบัติตามคำแนะนำทางการแพทย์ที่ไม่ถูกต้องจากแชทบอท ซึ่งแนะนำว่าอาการของเขานั้น 'ไม่เป็นอันตราย' นำไปสู่ภาวะลิ่มเลือดอุดตันในปอดที่คุกคามถึงชีวิต แม้ว่าเครื่องมือเหล่านี้อาจมีประโยชน์สำหรับการจัดระเบียบความคิดหรือสรุปคำศัพท์ทางการแพทย์ที่ซับซ้อน แต่ไม่ควรใช้เป็นสิ่งทดแทนผู้เชี่ยวชาญด้านการดูแลสุขภาพที่มีใบอนุญาต เมื่อพูดถึงสุขภาพของคุณ ให้ให้ความสำคัญกับการตัดสินใจทางคลินิกและความเชี่ยวชาญของมนุษย์มากกว่าผลลัพธ์จากแบบจำลองภาษา