Meta AI kirim notifikasi ke orang tua saat remaja alami tekanan emosional

JAKARTA (IndoTelko) - Meta memperkenalkan serangkaian pembaruan pada Meta AI guna memperkuat perlindungan bagi pengguna remaja. Salah satu fitur terbaru memungkinkan orang tua menerima notifikasi apabila percakapan anak mereka dengan Meta AI menunjukkan indikasi tekanan emosional, termasuk risiko bunuh diri atau tindakan menyakiti diri sendiri.

Fitur ini terintegrasi dengan sistem Parental Supervision di Instagram. Saat Meta AI mendeteksi adanya percakapan yang mengarah pada indikasi krisis emosional, sistem akan mendorong remaja untuk menghubungi orang tua, konselor, atau layanan bantuan krisis. Pada saat yang sama, orang tua akan memperoleh pemberitahuan beserta panduan dari para ahli mengenai cara memulai komunikasi dengan anak mereka.

Meta menjelaskan bahwa mekanisme deteksi dikembangkan bersama para pakar kesehatan mental dan orang tua. Sistem dirancang untuk mengenali berbagai bentuk indikasi risiko, termasuk ungkapan yang bersifat tidak langsung atau tersirat.

Untuk menjaga akurasi sekaligus mengurangi potensi kesalahan, setiap percakapan yang ditandai oleh sistem AI akan melalui proses peninjauan manual sebelum notifikasi dikirimkan kepada orang tua. Apabila terdapat keraguan terhadap maksud percakapan, Meta memilih mengutamakan langkah pencegahan dengan tetap memberikan pemberitahuan.

CEO dan Co-Founder ConnectSafely, Larry Magid, menilai pendekatan tersebut mampu menjaga keseimbangan antara hak privasi remaja dan kebutuhan orang tua untuk mengetahui apabila anak mereka berada dalam kondisi yang berpotensi membahayakan diri sendiri.

Saat ini, fitur notifikasi telah tersedia bagi pengguna pengawasan orang tua di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan tersebut dapat diakses secara global sebelum akhir tahun. Pembaruan ini juga melengkapi fitur yang sebelumnya telah memberi tahu orang tua apabila remaja berulang kali mencari konten terkait bunuh diri atau tindakan melukai diri sendiri di Instagram.

Selain itu, Meta tengah mengembangkan kemampuan untuk menghubungi layanan darurat ketika sistem mendeteksi risiko bunuh diri yang bersifat mendesak dalam percakapan pengguna dengan Meta AI, baik untuk pengguna remaja maupun dewasa. Inisiatif tersebut memperluas mekanisme yang telah diterapkan di Facebook dan Instagram. Sepanjang tahun lalu, Meta menyebut telah mengirimkan lebih dari 19.000 laporan kepada layanan darurat di berbagai negara terkait potensi risiko bunuh diri.

Dalam meningkatkan kualitas respons AI terhadap isu kesehatan mental, Meta juga menggandeng lebih dari 75 pakar kesehatan mental, AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors. Mereka mengevaluasi ratusan skenario percakapan untuk memastikan respons Meta AI tetap empatik, sesuai usia pengguna, serta mampu mengarahkan remaja menuju sumber bantuan yang tepat tanpa menghentikan percakapan secara tiba-tiba.

Psikolog berlisensi sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Dr. Ji-yeon Lee, menilai proses evaluasi yang dilakukan Meta tidak hanya berfokus pada respons awal AI, tetapi juga mempertimbangkan konteks percakapan, tindak lanjut, dan berbagai tingkat risiko sehingga menghasilkan pengalaman AI yang lebih aman bagi remaja.

Meta juga memperluas penerapan pembatasan konten pada Meta AI. Seluruh Akun Remaja akan secara otomatis menggunakan pengaturan konten sesuai usia, sehingga Meta AI tidak akan merespons permintaan yang dinilai sensitif, seperti percakapan bernuansa romantis atau seksual maupun permintaan terkait minuman beralkohol.

Bagi orang tua yang mengaktifkan fitur Limited Content di Instagram, pembatasan tersebut kini juga berlaku pada Meta AI. Dengan pengaturan ini, cakupan percakapan yang dapat dilakukan remaja dengan AI menjadi lebih terbatas sehingga dapat meminimalkan paparan terhadap topik yang dianggap tidak sesuai dengan usia mereka. (mas)