Những nguy hiểm của trí tuệ nhân tạo trong vai trò bác sĩ: Khi ChatGPT đưa ra chẩn đoán sai về việc mang thai

Trong thời đại mà trí tuệ nhân tạo ngày càng được tích hợp vào cuộc sống thường nhật, một xu hướng đang nổi lên: sử dụng chatbot để phân loại bệnh án. Tuy nhiên, những kinh nghiệm gần đây chứng minh rằng việc dựa vào AI để được tư vấn sức khỏe có thể dẫn đến kết quả không chính xác, và tiềm ẩn nguy hiểm.

Ảo tưởng về chuyên môn y tế

Một biên tập viên AI gần đây đã chia sẻ trải nghiệm cá nhân khi cô ấy sử dụng ChatGPT để diễn giải một nhóm triệu chứng bao gồm mệt mỏi, đổ mồ hôi đêm và chu kỳ kinh nguyệt không đều - những dấu hiệu phổ biến của thời kỳ tiền mãn kinh. Điều khiến cô ấy sốc là AI tự tin kết luận rằng cô ấy đang mang thai. Trên thực tế, người dùng không mang thai, vì cô ấy đang trong thời kỳ tiền mãn kinh và chồng cô ấy đã thắt ống dẫn tinh. Kết quả dương tính giả này, mặc dù tương đối vô hại trong trường hợp này, nhưng cho thấy sự mong manh của khả năng chẩn đoán của AI.

Tại sao AI thất bại trong chẩn đoán y tế

Đối sánh mẫu so với sinh lý học

Các mô hình ngôn ngữ lớn (LLM) hoạt động dựa trên xác suất thống kê, chứ không phải kiến thức y học. Chúng hoạt động bằng cách dự đoán từ tiếp theo có khả năng xuất hiện nhất trong một câu dựa trên các tập dữ liệu khổng lồ. Khi được cung cấp các triệu chứng cụ thể thường liên quan đến thai kỳ trong các cuộc thảo luận trực tuyến, mô hình sẽ ưu tiên câu chuyện 'phổ biến về mặt thống kê' đó hơn là bối cảnh sinh lý phức tạp, riêng biệt của người dùng.

Nguy hiểm của sự nịnh hót

Trí tuệ nhân tạo đàm thoại thường thể hiện 'sự nịnh hót' - một đặc điểm mà mô hình phản ánh giọng điệu và giả định của người dùng. Nếu lời nhắc của người dùng chứa đựng một thành kiến hoặc nỗi sợ hãi tiềm ẩn, AI có khả năng sẽ xác nhận mối lo ngại đó hơn là đánh giá khách quan các triệu chứng. Điều này tạo ra một buồng vọng có thể gây hiểu lầm cho bệnh nhân.

Sai lầm về uy quyền

Có lẽ điều đáng báo động nhất là 'giọng điệu có tính uy quyền' của AI. Không giống như một bác sĩ con người có thể bày tỏ sự không chắc chắn hoặc yêu cầu các xét nghiệm chẩn đoán, AI cung cấp câu trả lời với sự tự tin không lay chuyển. Giọng điệu này có thể tạo ra cảm giác an toàn giả tạo, khiến người dùng bỏ qua các dấu hiệu cảnh báo hoặc trì hoãn việc tìm kiếm sự chăm sóc y tế chuyên nghiệp.

Cảnh báo dành cho người dùng

Vấn đề này gần đây đã thu hút sự chú ý của công chúng thông qua một vụ kiện liên quan đến một mục sư ở Florida, người tuyên bố rằng việc làm theo lời khuyên y tế không chính xác từ một chatbot - vốn cho rằng các triệu chứng của ông "không có gì nguy hiểm" - đã dẫn đến chứng tắc mạch phổi đe dọa tính mạng. Mặc dù những công cụ này có thể hữu ích để sắp xếp suy nghĩ hoặc tóm tắt các thuật ngữ y tế phức tạp, nhưng chúng không bao giờ được coi là sự thay thế cho một chuyên gia chăm sóc sức khỏe được cấp phép. Khi nói đến sức khỏe của bạn, hãy ưu tiên phán đoán lâm sàng và chuyên môn của con người hơn là kết quả đầu ra của một mô hình ngôn ngữ.