JAKARTA (IndoTelko) - Seiring makin banyak perusahaan menggunakan agen AI di seluruh organisasinya, baru-baru ini IBM meluncurkan perangkat lunak pertama di industri yang menyatukan tim keamanan dan tata kelola AI, serta memberikan pandangan terpadu terhadap risiko perusahaan.
Kemampuan baru ini meningkatkan dan mengintegrasikan watsonx.governance dan Guardium AI Security untuk membantu klien menjaga sistem AI mereka, termasuk agen-agen AI, agar tetap aman dan bertanggung jawab dalam skala besar. watsonx.governance adalah perangkat tata kelola AI komprehensif dari IBM, sedangkan Guardium AI Security adalah perangkat keamanan IBM untuk mengamankan model AI, data, dan penggunaannya.
Menurut General Manager, Data and AI, IBM, Ritika Gunnar, agen AI diperkirakan akan merevolusi produktivitas perusahaan, namun manfaat besar dari agen AI juga bisa menjadi tantangan.
“Ketika sistem otonom seperti ini tidak dikelola atau diamankan dengan baik, konsekuensinya bisa sangat besar,” katanya.
Penawaran solusi terbaru ini termasuk di antaranya :
1. Integrasi dan Otomatisasi Keamanan Agentic AI
IBM meningkatkan integrasi antara IBM Guardium AI Security dan watsonx.governance, dengan menghadirkan solusi terpadu pertama bagi pelaku usaha untuk mengelola risiko keamanan dan tata kelola terkait penggunaan AI. Integrasi ini mendukung proses pengguna dalam memastikan kepatuhan terhadap standar regulasi, dengan mengacu pada 12 kerangka kerja yang berbeda, termasuk EU AI Act dan ISO 42001.
IBM juga memperkenalkan kemampuan baru dalam Guardium AI Security melalui kolaborasi dengan AllTrue.ai, termasuk dengan kemampuan mendeteksi penggunaan AI baru di lingkungan cloud, repositori kode, dan embedded systems. Hal ini memberikan cakupan pengawasan dan perlindungan yang luas di tengah ekosistem AI yang semakin terdesentralisasi.
Setelah penggunaan AI tersebut teridentifikasi, IBM Guardium AI Security dapat secara otomatis memicu alur kerja tata kelola dari watsonx.governance.
Update terbaru pada IBM Guardium AI Security juga mencakup automated red teaming (tim keamanan yang melakukan serangan simulasi) untuk membantu perusahaan mendeteksi dan memperbaiki kerentanan dan kesalahan konfigurasi pada lintas skenario penggunaan AI.
Untuk memitigasi risiko seperti injeksi kode, kebocoran data sensitif, dan eksposur data, perangkat ini memungkinkan pengguna menentukan kebijakan keamanan khusus yang menganalisis input dan output AI. Semua fitur ini sudah tersedia saat ini di IBM Guardium AI Security dan integrasinya dengan watsonx.governance akan diluncurkan secara bertahap sepanjang tahun ini.
Diungkapkan Vice President, Security and Runtime Products, IBM, Suja Viswesan, masa depan AI bergantung pada seberapa baik kita mengamankannya sejak sekarang. “Menanamkan keamanan sejak awal sangat penting untuk melindungi data, memenuhi kewajiban kepatuhan, dan membangun kepercayaan yang berkelanjutan,” katanya.
Sedangkan, Research Director, IDC Security and Trust Group, Jennifer Glenn mengatakan, salah satu tantangan terbesar bagi tim keamanan adalah menerjemahkan insiden dan pelanggaran kepatuhan ke risiko bisnis yang terukur. Adopsi AI yang pesat, terutama Agentic AI, memperbesar tantangan ini.
“Menyatukan tata kelola AI dengan keamanan AI memberikan konteks yang diperlukan oleh perusahaan untuk memprioritaskan risiko serta menjelaskan konsekuensi bila tidak segera ditangani,” terangnya.
2. Evaluasi dan Tata Kelola Siklus Hidup Agentic AI yang Lebih Canggih
IBM watsonx.governance kini dapat memantau dan mengelola agen AI sepanjang siklus hidup mereka dari tahap pengembangan hingga implementasi. Pengguna dapat menanamkan evaluation nodeslangsung ke dalam agen, sehingga mereka bisa memantau metrik penting seperti relevansi jawaban, konteks, dan kesesuaian dengan sumber data serta mengidentifikasi akar masalah dari performa yang buruk. Kemampuan tambahan yang direncanakan akan tersedia mulai 27 Juni mencakup: penilaian risikoonboarding agen, jejak audit agen, dan katalog toolagentik.
3. Kemampuan Kepatuhan Siap Pakai
IBM watsonx.governance Compliance Acceleratorsmenyediakan kumpulan regulasi, standar, dan kerangka kerja global yang sudah dimuat sebelumnya, sehingga memudahkan pengguna untuk mengidentifikasi kewajiban yang relevan dan memetakan ke skenario AI mereka. Konten mencakup regulasi utama secara global seperti EU AI Act, SR 11-7 dari Federal Reserve AS, UU Lokal NYC 144, serta standar global seperti ISO/IEC 42001 dan NIST AI RMF. watsonx.governance Compliance Acceleratorskini sudah tersedia sebagai fitur tambahan (add-on).
4. Keahlian untuk Menskalakan AI Secara Bertanggung Jawab
Untuk membantu klien dalam mengembangkan AI secara aman dan bertanggung jawab, IBM Consulting Cybersecurity Services meluncurkan serangkaian layanan baru yang menggabungkan platform keamanan data seperti Guardium AI Security dengan keahlian AI dan konsultasi di berbagai sektor industri. Layanan ini akan mendukung organisasi dalam seluruh perjalanan transformasi AI mereka mulai dari menemukan penerapan AI dan potensi kerentanannya, hingga menerapkan praktik “secure-by-design” di seluruh lapisan AI, dan panduan tata kelola yang sesuai dengan regulasi yang terus berkembang. Layanan ini dibangun berdasarkan pengalaman IBM Consulting dalam membantu ratusan klien secara global dalam hal strategi dan tata kelola AI--termasuk Nationwide Building Society dan e&, dalam strategi dan tata kelola AI.
Kemampuan dan integrasi baru ini memberikan pelaku bisnis tata kelola dan keamanan yang komprehensif yang mereka butuhkan untuk berkembang di era Agentic AI. Inovasi-inovasi ini juga selaras dengan rangkaian solusi IBM watsonx AI yang lebih luas, yang dirancang untuk membantu perusahaan mempercepat dampak AI generatif, secara bertanggung jawab dan aman. (mas)