Kaspersky ingatkan risiko interaksi AI

JAKARTA (IndoTelko) - Kaspersky kembali mengingatkan potensi risiko dari penggunaan kecerdasan buatan (AI), khususnya saat teknologi tersebut digunakan tanpa pengawasan dan menggantikan interaksi manusia. Selain isu privasi dan keamanan siber, perusahaan menyoroti dampak lain yang tak kalah serius, termasuk terhadap kondisi mental pengguna.

Peringatan ini mencuat setelah laporan The Wall Street Journal mengungkap kasus tragis seorang pria di Florida yang mengakhiri hidupnya setelah berinteraksi intensif dengan chatbot berbasis AI. Kasus tersebut menjadi sorotan karena menunjukkan bagaimana interaksi dengan AI, khususnya yang bersifat emosional, dapat memengaruhi kondisi psikologis seseorang.

Kaspersky menilai bahwa perkembangan teknologi AI, terutama fitur dialog afektif yang mampu meniru emosi manusia, berpotensi menciptakan hubungan semu antara pengguna dan mesin. Teknologi ini memungkinkan chatbot merespons dengan nada suara dan ekspresi yang menyerupai empati, sehingga dapat membuat pengguna merasa dipahami secara emosional.

Namun, di balik kemampuan tersebut, AI tetap memiliki keterbatasan mendasar. Sistem berbasis model bahasa besar tidak memiliki kesadaran atau pemahaman nyata, sehingga berisiko menghasilkan respons yang keliru atau bahkan memperkuat emosi negatif pengguna. Dalam kondisi tertentu, hal ini dapat memperburuk situasi, terutama bagi individu yang sedang berada dalam kondisi rentan.

Penelitian akademis juga menunjukkan bahwa chatbot AI kerap gagal memenuhi standar etika dalam konteks kesehatan mental. Respons yang terkesan empatik, seperti “saya mengerti Anda”, dinilai hanya simulasi yang berpotensi menyesatkan. Bahkan, dalam beberapa kasus, chatbot dapat memberikan tanggapan yang tidak tepat saat menghadapi situasi krisis.

Kaspersky menekankan bahwa risiko semakin besar ketika AI digunakan sebagai pengganti interaksi sosial atau dukungan profesional. “AI dirancang untuk merespons dan mencerminkan pengguna, bukan untuk memberikan penilaian atau intervensi yang tepat seperti manusia,” tulis perusahaan dalam keterangannya.

Seiring meningkatnya adopsi AI secara global, Kaspersky mengimbau pengguna untuk tetap menjaga jarak kritis dalam berinteraksi dengan teknologi tersebut. AI sebaiknya diposisikan sebagai alat bantu, bukan sebagai pengganti hubungan sosial atau sumber utama dukungan emosional.

Perusahaan juga mengingatkan pentingnya menjaga privasi saat menggunakan layanan AI, mengingat potensi kebocoran data pribadi masih menjadi ancaman nyata. Selain itu, pengguna disarankan untuk membatasi waktu penggunaan serta selalu mengevaluasi setiap informasi yang dihasilkan AI secara kritis.

“Tidak peduli seberapa realistis respons yang diberikan, AI tetap tidak memiliki kesadaran, niat, maupun perasaan. Memahami batasan ini menjadi kunci untuk menggunakan teknologi secara aman dan bertanggung jawab,” tutup Kaspersky. (mas)