JAKARTA (IndoTelko) Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) memutus sementara akses ke aplikasi kecerdasan buatan Grok untuk melindungi perempuan, anak, dan seluruh masyarakat dari risiko penyebaran konten pornografi palsu yang dihasilkan oleh teknologi AI.
Pemutusan akses sementara terhadap Grok dilakukan setelah ditemukan tren penggunaan teknologi tersebut untuk menghasilkan deepfake seksual non-konsensual, konten pornografi yang dibuat tanpa izin dan dapat merusak martabat serta hak asasi individu. Pemerintah memandang praktik tersebut sebagai pelanggaran serius terhadap hak asasi manusia serta keamanan warga negara di ruang digital.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa langkah ini diambil sebagai tindakan preventif sambil meminta Platform X, perusahaan induk Grok, segera memberikan klarifikasi terkait dampak negatif dari penggunaan aplikasi tersebut.
Ia menyatakan bahwa deepfake seksual non-konsensual tidak hanya melanggar norma kesusilaan tetapi juga berpotensi menimbulkan ancaman psikologis dan sosial yang serius.
Penelusuran awal Direktorat Jenderal Pengawasan Ruang Digital menunjukkan bahwa Grok AI belum memiliki mekanisme pengaturan dan pemblokiran konten yang memadai untuk mencegah pembuatan atau distribusi konten pornografi berbasis foto nyata warga Indonesia.
Pemblokiran sementara ini dilakukan berdasarkan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9 yang mengharuskan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang mereka kelola tidak memuat, memfasilitasi, atau menyebarkan informasi yang dilarang, termasuk konten pornografi atau konten asusila lainnya.
Komdigi menegaskan bahwa keputusan ini bersifat sementara sambil menunggu klarifikasi dan tindak lanjut dari Platform X terkait bagaimana Grok akan membangun mekanisme moderasi konten yang lebih kuat dan sesuai standar perlindungan warga negara Indonesia.
Isu ini mencuat di tengah tren global di mana Grok digunakan oleh sejumlah pengguna untuk memanipulasi gambar menjadi konten seksual tanpa persetujuan subjeknya, termasuk kasus yang menjadi sorotan internasional. Beberapa laporan luar negeri menyebut bahwa Grok pernah digunakan untuk membuat deepfake pornografi dan bahkan konten yang memanipulasi citra anak-anak, memicu kecaman dari otoritas berbagai negara.
Grok adalah chatbot dan model AI yang dikembangkan oleh xAI dan diintegrasikan dengan platform media sosial X, yang mengalami pertumbuhan pesat sejak 2024. Popularitasnya didorong oleh kemampuan memberikan respons real-time yang “menghibur” serta interaksi yang lebih santai dibandingkan beberapa AI lain.
Secara global, Grok memiliki puluhan juta pengguna aktif setiap bulan. Data statistik terbaru menunjukkan Grok memiliki sekitar 30 juta pengguna aktif bulanan dan lebih dari 50 juta unduhan di Google Play Store saja, dengan total kunjungan mencapai ratusan juta per bulan pada 2025.(ak)