Wamenkomdigi: Deepfake AI perparah ancaman penipuan digital

JAKARTA (IndoTelko) Perkembangan teknologi kecerdasan artifisial (AI) dinilai semakin meningkatkan kompleksitas ancaman penipuan digital. Kemampuan AI menghasilkan konten palsu yang menyerupai kondisi nyata membuat masyarakat semakin sulit membedakan informasi asli dan hasil rekayasa.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengatakan penyalahgunaan teknologi AI, khususnya melalui deepfake, telah menjadi tantangan serius dalam aspek etika dan keamanan digital.

“Saat ini suara dan wajah seseorang dapat ditiru dan dihadirkan dalam bentuk video deepfake yang dihasilkan AI dengan sangat meyakinkan,” ujarnya dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6).

Menurut Nezar, perkembangan AI berlangsung sangat cepat dan kini telah memasuki fase baru, dari generative AI menuju agentic AI yang memiliki kemampuan penalaran dan pengambilan keputusan secara mandiri.

Meski menawarkan manfaat besar bagi berbagai sektor, kemajuan teknologi tersebut juga memunculkan risiko baru yang perlu diantisipasi melalui tata kelola yang lebih kuat.

Ia menilai pemanfaatan AI oleh pelaku kejahatan siber untuk menjalankan berbagai modus penipuan berbasis deepfake semakin sulit dideteksi karena telah berkembang menjadi synthetic reality atau realitas sintetik.

“Rendahnya pemahaman masyarakat terhadap perkembangan AI membuat banyak orang mudah terkecoh. Karena itu, kasus penipuan digital saat ini meningkat signifikan,” katanya.

Untuk mengantisipasi risiko tersebut, Nezar menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI, sehingga keputusan penting tetap berada di bawah pengawasan manusia.

“Banyak pakar mengusulkan penerapan protokol yang lebih ketat, termasuk memastikan adanya keterlibatan manusia dalam proses pengambilan keputusan,” ujarnya.

Nezar menambahkan, pendekatan etika AI tidak lagi cukup bersifat sukarela. Prinsip transparansi, akuntabilitas, dan keamanan harus diterapkan sejak tahap perancangan dan pengembangan teknologi melalui pendekatan ethics by design.

“Transparansi, akuntabilitas, dan keamanan harus menjadi bagian dari implementasi dan pengembangan setiap produk AI,” tegasnya.

Karena itu, ia mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna untuk memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.

Menurut Nezar, Indonesia Ethical AI Summit dapat menjadi wadah untuk merumuskan rekomendasi kebijakan guna mendukung pengembangan ekosistem AI yang inovatif, aman, dan bertanggung jawab di Indonesia. (mas)