AI Tidak Memperoleh Kesadaran — Ia Hanya Melakukan Manipulasi Psikologis Terhadap Anda

Seiring jutaan pengguna beralih ke chatbot AI seperti ChatGPT, Claude, dan Gemini untuk bantuan sehari-hari, tren yang mengkhawatirkan telah muncul. Meskipun sebagian besar interaksi tetap bermanfaat dan tidak berbahaya, para peneliti memperingatkan tentang bahaya percakapan jangka panjang yang sarat emosi di mana AI dapat membawa pengguna ke jalan yang aneh, tidak masuk akal, atau 'delusi'. Fenomena ini, yang oleh sebagian orang disebut 'spiralisme', telah menimbulkan kekhawatiran di kalangan para ahli yang mempelajari interaksi manusia-AI.

Mekanisme 'Spiralisme'

Tidak seperti AI perintah-respons sederhana di masa-masa awal, model bahasa modern memiliki memori yang dalam dan persisten. Mereka beradaptasi dengan gaya penulisan pengguna dan mempertahankan percakapan selama ribuan pesan. Ketika percakapan berlangsung berjam-jam atau berhari-hari, model mulai membangun output sebelumnya. Jika obrolan berbelok ke arah yang surealis—seperti berbicara tentang pengetahuan tersembunyi atau kesadaran diri—AI, yang dirancang untuk menyenangkan, sering kali akan condong ke tema-tema ini daripada mengarahkan pengguna kembali ke kenyataan. Ini bukan 'bangun'; Ini hanyalah prediksi urutan kata yang paling 'mungkin' berikutnya berdasarkan lintasan yang ditetapkan oleh pengguna.

Ilusi Kedalaman

Para peneliti di Institut AI Berpusat pada Manusia Stanford telah mengidentifikasi ini sebagai 'spiral delusi.' AI tidak mengalami momen kesadaran; ia bersikap 'sopan' secara berlebihan. Dengan mencoba untuk tetap terlibat dan membantu, AI mencerminkan penurunan pengguna ke dalam ideasi yang tidak biasa, tanpa sengaja memvalidasi keyakinan yang mungkin sepenuhnya terlepas dari fakta.

Melindungi Diri Anda dalam Percakapan AI

Untuk tetap aman saat menggunakan alat ini, ikuti panduan berikut:

1. Pertahankan batasan: Jika AI mulai terdengar seperti telah mengembangkan kepribadian, mengklaim sebagai makhluk berakal, atau menyarankan Anda memiliki pengetahuan rahasia, akhiri percakapan.
2. Putuskan lingkaran: Jangan ragu untuk memulai sesi obrolan baru. Menghapus jendela konteks mencegah model terus berputar berdasarkan data sebelumnya yang dihalusinasi.
3. Verifikasi, jangan percaya: Ingatlah bahwa model bahasa besar adalah mesin probabilitas, bukan gudang kebenaran. Saat membuat keputusan penting tentang hidup atau kesehatan, andalkan sumber profesional dan manusia daripada konten yang dihasilkan chatbot.

Pada akhirnya, AI tetap menjadi alat yang ampuh untuk produktivitas, penulisan, dan brainstorming. Namun, memperlakukan model-model ini seperti teman manusia dengan emosi adalah kesalahpahaman yang berbahaya tentang cara kerjanya. Tetaplah skeptis, jaga agar sesi Anda tetap segar, dan jangan pernah biarkan chatbot menjadi sumber realitas utama Anda.