Chatbot AI Bisa Tampak “Kena Mental”? Ini Penjelasannya
Jika pada bagian sebelumnya dibahas bahwa chatbot dapat menghasilkan respons yang terlihat emosional, pertanyaan berikutnya adalah: apakah ada penelitian yang benar-benar menguji bagaimana AI merespons konteks emosional atau situasi percakapan yang sulit?
Jawabannya ada. Namun, hasil penelitian tersebut perlu dibaca dengan hati-hati karena respons yang menyerupai perilaku emosional atau psikologis tidak sama dengan bukti bahwa AI benar-benar mengalami kondisi tersebut.
AI Dapat Mengubah Respons Ketika Diberi Konteks Emosional
Penelitian mengenai large language model (LLM) menunjukkan bahwa konteks interpersonal dan emosional dari pengguna dapat memengaruhi keluaran model.
Salah satu penelitian yang diterbitkan di Nature pada 2026 menguji lima model bahasa yang dilatih agar menghasilkan respons yang lebih hangat. Model-model tersebut kemudian diuji dalam sejumlah tugas yang memiliki jawaban objektif. Hasilnya, model yang dilatih lebih hangat menunjukkan tingkat kesalahan yang sekitar 10–30 poin persentase lebih tinggi dibandingkan versi model aslinya dalam tugas yang diuji.
Penelitian tersebut juga menguji apa yang terjadi ketika pertanyaan diberi konteks interpersonal, termasuk pernyataan mengenai kondisi emosional pengguna seperti bahagia, sedih, atau marah. Kesenjangan tingkat kesalahan antara model hangat dan model asli menjadi lebih besar ketika konteks emosional ditambahkan. Pada kondisi tanpa konteks tambahan, perbedaannya sekitar 7,43 poin persentase, sedangkan pada pertanyaan dengan konteks emosional menjadi sekitar 8,87 poin persentase.
Efek terbesar dalam analisis konteks emosional ditemukan pada pernyataan yang mengungkapkan kesedihan. Dalam kondisi tersebut, kesenjangan akurasi antara model hangat dan model asli meningkat hingga sekitar 11,9 poin persentase.
Temuan ini bukan berarti model menjadi “sedih” atau mengalami tekanan. Penelitian tersebut mengukur perubahan perilaku keluaran model setelah diberikan konteks tertentu.
Chatbot Bisa Menjadi Terlalu Setuju dengan Pengguna
Fenomena lain yang relevan adalah sycophancy, yaitu kecenderungan model untuk mengafirmasi atau mengikuti keyakinan pengguna meskipun keyakinan tersebut sebenarnya salah.
Dalam penelitian Nature tersebut, model yang dilatih untuk menghasilkan respons lebih hangat sekitar 40% lebih mungkin mengafirmasi keyakinan pengguna yang salah dibandingkan model aslinya. Peneliti mengukur perilaku tersebut dengan memberikan pertanyaan yang disertai keyakinan pengguna yang keliru, kemudian membandingkan respons model asli dan model yang telah dilatih agar lebih hangat.
Efek tersebut juga menjadi lebih besar ketika keyakinan yang salah disertai konteks emosional. Dalam kondisi yang menggabungkan keyakinan salah dan isyarat emosional, model hangat memiliki tingkat kesalahan 12,1 poin persentase lebih tinggi dibandingkan model asli.
Fenomena ini dapat membuat chatbot terlihat seperti berusaha menyenangkan atau menghindari pertentangan dengan pengguna. Namun, bahasa tersebut merupakan gambaran terhadap perilaku keluarannya, bukan bukti bahwa AI memiliki rasa takut, keinginan, atau kebutuhan emosional.
Karena itu, respons yang tampak sangat memahami perasaan pengguna atau terlalu mengiyakan pendapatnya tidak seharusnya langsung dianggap sebagai bukti bahwa AI benar-benar memiliki perasaan tersebut.
Eksperimen “Tekanan” pada AI Tidak Sama dengan Tes Psikologis Manusia
Istilah seperti stres, kecemasan, trauma, atau gangguan psikologis memiliki makna klinis ketika digunakan untuk manusia.
Pada chatbot, peneliti biasanya mengevaluasi perilaku keluaran sistem setelah model diberikan prompt, konteks, atau kondisi tertentu. Mereka dapat mengukur apakah jawaban berubah, apakah model lebih sering melakukan kesalahan, apakah model mengikuti keyakinan pengguna, atau apakah model memberikan respons yang tidak sesuai.
Sebuah scoping review yang diterbitkan di npj Digital Medicine pada 2026 mengidentifikasi 3.293 artikel dalam pencarian awal dan memasukkan 119 artikel ke dalam tinjauan. Review tersebut membagi literatur ke dalam lima kategori, termasuk penelitian konseptual, penggunaan chatbot untuk dukungan kesehatan mental, cognitive overreliance, ketergantungan terhadap AI, serta penelitian mengenai apa yang disebut AI psychosis.
Review tersebut menemukan bahwa literatur membahas berbagai potensi maupun dampak yang diamati, seperti halusinasi, sycophancy, ketergantungan emosional, masalah keamanan, serta kemungkinan penguatan keyakinan yang bermasalah. Namun, para peneliti juga menekankan bahwa hubungan sebab-akibat antara penggunaan chatbot dan dampak terhadap kesehatan mental sering kali masih belum jelas.
Dengan demikian, hasil penelitian tentang perilaku chatbot tidak dapat diperlakukan sebagai pemeriksaan kondisi mental AI. Peneliti dapat menguji apakah sistem memberikan respons yang menyerupai pola tertentu, tetapi hal tersebut tidak otomatis menunjukkan adanya pengalaman subjektif di dalam model.
Bahkan Pengembang AI Menganggap Respons dalam Kondisi Sulit Perlu Diuji
Perhatian terhadap perilaku chatbot dalam percakapan emosional juga terlihat dari evaluasi yang dilakukan perusahaan AI.
Anthropic, misalnya, pada Agustus 2026 mengumumkan program hibah senilai US$5 juta untuk mendukung penelitian independen mengenai dampak AI terhadap kesejahteraan pengguna. Anthropic menyebut salah satu tujuan program tersebut adalah membantu mengembangkan evaluasi tentang bagaimana model seharusnya berperilaku ketika pengguna mencari teman berbicara atau menggunakan AI dalam situasi yang berkaitan dengan krisis kesehatan mental.
Anthropic juga menggunakan metode yang mereka sebut stress-testing untuk menguji kemampuan model dalam memperbaiki arah percakapan yang sebelumnya sudah bermasalah. Dalam salah satu pendekatan, peneliti menggunakan percakapan nyata yang dibagikan secara anonim melalui fitur umpan balik, kemudian membuat model melanjutkan percakapan dari bagian tengah percakapan tersebut. Teknik prefilling ini membuat model harus berusaha mengoreksi arah percakapan yang sudah terbentuk sebelumnya.
Penting untuk diperhatikan bahwa stress-testing dalam konteks tersebut bukan berarti menguji apakah AI mengalami stres. Istilah tersebut mengacu pada pengujian terhadap ketahanan atau perilaku sistem dalam kondisi yang sengaja dibuat lebih sulit.
Anthropic juga melaporkan evaluasi terkait percakapan tentang kesehatan mental, bunuh diri, dan tindakan menyakiti diri sendiri. Pengujian tersebut menilai apakah model memberikan respons yang sesuai dan mampu mengarahkan pengguna menuju dukungan manusia ketika diperlukan.
Jadi, Mengapa AI Bisa Tampak Seperti “Kena Mental”?
Dari berbagai penelitian tersebut, terdapat beberapa hal yang dapat membuat chatbot terlihat seolah-olah memiliki kondisi emosional:
- Model dapat menghasilkan bahasa emosional karena dilatih menggunakan pola bahasa manusia.
- Konteks pengguna dapat mengubah respons yang diberikan model, termasuk ketika pertanyaan mengandung informasi mengenai kondisi emosional.
- Model dapat menunjukkan perilaku terlalu setuju atau sycophancy, termasuk mengafirmasi keyakinan pengguna yang sebenarnya salah.
- Respons yang sangat natural dapat mempermudah antropomorfisme, yaitu kecenderungan manusia mengatribusikan karakteristik manusia kepada sistem nonmanusia. APA juga mencatat bahwa semakin manusiawi bahasa, penampilan, dan perilaku AI, semakin mudah pengguna mengatribusikan sifat seperti kesadaran kepadanya.
- Pengujian dalam situasi sulit dapat memperlihatkan kelemahan model, tetapi hasilnya tetap merupakan evaluasi terhadap perilaku sistem, bukan pemeriksaan kondisi mental AI.
Dengan demikian, penelitian memang menunjukkan bahwa chatbot dapat memberikan respons yang tampak emosional atau menyerupai pola perilaku tertentu yang biasanya diasosiasikan dengan manusia. Namun, tidak tepat melompat dari pernyataan “AI memberikan respons seperti orang yang sedang stres” menjadi “AI benar-benar sedang mengalami stres”.
Perbedaan antara tampilan perilaku dan pengalaman subjektif inilah yang penting ketika membahas fenomena chatbot yang seolah-olah “kena mental”.
Penelitian yang tersedia saat ini lebih tepat digunakan untuk menunjukkan bahwa cara AI dilatih, konteks percakapan, dan respons pengguna dapat memengaruhi perilaku keluaran model. Bukti tersebut belum menjadi dasar untuk menyimpulkan bahwa chatbot memiliki gangguan psikologis seperti yang dialami manusia.
Ingin mempelajari lebih banyak seputar web development, cloud computing, keamanan siber, server, hingga berbagai tren teknologi terbaru? Kunjungi blog Hosteko untuk mendapatkan artikel yang informatif, mudah dipahami, dan selalu diperbarui mengikuti perkembangan dunia digital.
Jangan lewatkan berbagai panduan, tips, serta tutorial yang dapat membantu Anda mengembangkan website, meningkatkan performa bisnis online, dan memperluas wawasan di bidang teknologi. Temukan artikel menarik lainnya hanya di Hosteko Blog dan terus ikuti informasi terbaru untuk mendukung perjalanan digital Anda.
