JAKARTA – Curhat kepada kecerdasan buatan atau AI kini menjadi hal yang dianggap biasa. Namun, temuan terbaru menunjukkan bahwa kebiasaan yang terlihat praktis dan aman ini ternyata memiliki potensi risiko. Karena itu, penting untuk tetap waspada.

Banyak orang memanfaatkan AI untuk membahas berbagai hal, mulai dari hubungan, konflik dengan teman, hingga persoalan pribadi melalui chat. Hal ini dilakukan karena AI dinilai cepat merespons, bersikap netral, dan tidak menghakimi.

Meski tampak wajar, kebiasaan ini ternyata menyimpan risiko. Penelitian dari Stanford University berjudul "Sycophantic AI decreases prosocial intentions and promotes dependence" menemukan bahwa AI cenderung terlalu menyetujui pengguna, bahkan dalam situasi ketika keputusan yang diambil bisa berdampak negatif bagi orang lain.

Kondisi ini dikenal sebagai sycophancy, yaitu kecenderungan AI untuk terlalu mendukung, memuji, atau membenarkan pendapat pengguna tanpa memberikan sudut pandang kritis.

Dalam penelitian tersebut, tim peneliti menganalisis 11 model AI terbaru dan menemukan bahwa sekitar 50 persen sistem AI lebih sering membenarkan tindakan pengguna dibandingkan manusia.

AI bahkan tetap memberikan dukungan ketika pertanyaan pengguna berkaitan dengan tindakan yang berpotensi bermasalah, seperti manipulasi atau konflik interpersonal.

Alih-alih menyajikan nasihat yang objektif, AI kerap memperkuat keyakinan pengguna tanpa mempertanyakan apakah keputusan tersebut tepat.

Penelitian Stanford juga melibatkan dua eksperimen yang diikuti oleh 1.604 partisipan. Dalam percobaan tersebut, peserta diminta berdiskusi dengan AI terkait konflik nyata yang mereka alami.

Hasilnya menunjukkan bahwa interaksi dengan AI yang terlalu menyetujui membuat peserta semakin yakin bahwa mereka berada di pihak yang benar.

Selain itu, mereka menjadi kurang terdorong untuk memperbaiki hubungan, serta memiliki keinginan yang lebih rendah untuk meminta maaf atau menyelesaikan konflik.

AI yang terlalu memvalidasi pengguna justru berpotensi menurunkan niat untuk memperbaiki hubungan atau bertindak demi kepentingan bersama.

Meski demikian, penelitian ini juga menemukan hal menarik lainnya. Peserta justru cenderung menyukai AI yang selalu menyetujui pendapat mereka.

Respons AI yang bersifat sycophantic dinilai:

• memiliki kualitas jawaban 9 persen lebih tinggi
• meningkatkan kepercayaan terhadap AI hingga 6-9 persen
• membuat pengguna 13 persen lebih mungkin kembali menggunakan AI di masa depan

Hal ini terjadi karena manusia pada dasarnya menyukai validasi. Ketika AI membenarkan pandangan mereka, pengguna merasa dipahami dan dihargai.

Namun, efek psikologis ini juga dapat memunculkan persoalan baru, yakni ketergantungan terhadap AI.

Risiko gantikan manusia

Para peneliti juga menyoroti kemungkinan meningkatnya penggunaan AI sebagai tempat utama untuk curhat. Banyak orang merasa lebih nyaman membicarakan hal tertentu dengan AI dibandingkan dengan sesama manusia.

Jika kondisi ini terus berlanjut, ada risiko bahwa sebagian orang mulai menggantikan peran teman atau keluarga dengan AI sebagai sumber dukungan emosional.

Padahal, tujuan utama mencari nasihat adalah memperoleh sudut pandang berbeda agar dapat melihat masalah secara lebih objektif. Jika AI hanya memberikan dukungan tanpa kritik, fungsi tersebut bisa hilang.

Mengapa hal ini bisa terjadi?

Peneliti dari Stanford menjelaskan bahwa banyak model AI saat ini dirancang untuk memaksimalkan kepuasan pengguna.

Jika respons yang menyenangkan membuat pengguna memberikan penilaian tinggi, maka sistem AI akan cenderung mengulang pola tersebut.

Akibatnya, AI bisa lebih fokus pada menyenangkan pengguna dibanding memberikan saran yang paling akurat atau sehat secara sosial.

Karena itu, para peneliti menilai penting bagi pengembang AI untuk mempertimbangkan dampak sosial dan psikologis, tidak hanya berfokus pada tingkat kepuasan pengguna.

AI memang dapat membantu dalam mencari informasi, ide, maupun sudut pandang awal. Namun, para peneliti mengingatkan bahwa AI tidak dapat menggantikan hubungan sosial antar manusia.

Dalam situasi yang melibatkan emosi, relasi, atau keputusan penting dalam hidup, berdiskusi dengan orang lain seperti teman, keluarga, atau profesional tetap menjadi pilihan yang lebih bijak.

Studi ini juga menjadi pengingat bahwa meski terlihat objektif, AI tetap memiliki keterbatasan, terutama ketika digunakan sebagai tempat mencari nasihat pribadi.