Waspada ancaman penyalahgunaan AI di APAC

JAKARTA (IndoTelko) - Perusahaan keamanan siber dan digital global Kaspersky menyuarakan kewaspadaan mendesak tentang meningkatnya penyalahgunaan kecerdasan buatan (AI) dalam serangan siber di seluruh Kawasan Asia Pasifik (APAC).

Menurut para ahli Kaspersky, pada tahun 2024 terjadi lebih dari 3 miliar serangan malware secara global, dengan rata-rata harian 467.000 file berbahaya terdeteksi. Sistem Windows menjadi yang paling sering menjadi sasaran, dan deteksi Trojan meningkat sebesar 33% dari tahun ke tahun.

Kejahatan siber finansial juga melonjak di seluruh dunia, dengan peningkatan 2x lipat jumlah korban ancaman finansial seluler dan meningkatnya serangan phishing yang menargetkan aset kripto. Aplikasi yang menyesatkan, termasuk VPN palsu, juga meningkat, begitu pula ancaman terhadap para gamer dan anak-anak. Tinjauan paling mengkhawatirkan, 45% kata sandi dapat dipecahkan dalam waktu kurang dari satu menit. Namun di luar volume yang terjadi saat ini, sifat ancaman berubah dengan AI menjadi pedang bermata dua dalam keamanan siber.

Menurut manajer Machine Learning Technology Research Group di Kaspersky, Vladislav Tushkanov, penjahat dunia maya memanfaatkan AI untuk membuat kontenphishing, mengembangkan malware, dan bahkan meluncurkan serangan rekayasa sosial berbasis deepfake.

Ia memperingatkan tentang kerentanan bawaan LLM, serangan rantai pasokan AI, dan persoalan shadow AI yang semakin berkembang, penggunaan alat AI tidak sah oleh karyawan yang dapat membocorkan data sensitif.

Dalam satu contoh yang mengkhawatirkan, peneliti Kaspersky menemukan model AI berbahaya yang dihosting di repositori publik, dan lingkungan perusahaan kini rentan terhadap prompt injection (teknik serangan siber yang memanfaatkan kelemahan dalam model bahasa besar (LLM)), kesalahan halusinasi, dan penanganan akun yang tidak aman dalam sistem AI generatif.

Kaspersky juga menekankan bagaimana pentingnya SOC (Pusat Operasi Keamanan) generasi berikutnya harus berevolusi dengan integrasi AI untuk mampu melakukan deteksi, respons, dan otomatisasi.

Sementara, Managing Director untuk Asia Pasifik di Kaspersky, Adrian Hia mengatakan, AI membentuk kembali lanskap ancaman dan pertahanan. “Untuk tetap unggul, organisasi membutuhkan lebih dari sekadar alat, mereka membutuhkan SOC cerdas yang menggabungkan otomatisasi, intelijen ancaman, dan keahlian manusia. Itulah dasar untuk keamanan siber yang tangguh dan siap untuk AI. Pada akhirnya, pemenang dalam keamanan siber adalah mereka yang tidak hanya mengadopsi AI, tetapi juga mengamankannya,” jelasnya.

Kaspersky mendesak perusahaan untuk mengadopsi strategi keamanan siber yang mendukung AI, termasuk di antaranya :

• Solusi keamanan untuk mendeteksi malware dan ancaman yang didukung AI dalam rantai pasokan.

• Alat intelijen ancaman untuk memantau eksploitasi yang digerakkan oleh AI.

• Kontrol akses dan edukasi karyawan untuk mengurangi risiko dari AI bayangan dan kebocoran data.

• Menetapkan Pusat Operasi Keamanan (Security Operations Center/SOC) untuk pemantauan ancaman secara real-time dan respons cepat.

SOC adalah pusat komando terpusat yang memantau, mendeteksi, menganalisis, dan menanggapi insiden keamanan dalam jaringan dan sistem organisasi. Dengan berinvestasi pada sumber daya, teknologi dan manusia yang tepat, Anda dapat meningkatkan postur keamanan, mengurangi risiko, dan melindungi data sensitif, menjaga reputasi dan keberlangsungan bisnis di tengah lanskap ancaman yang semakin kompleks. (mas)