TrendAI dan NVIDIA perkuat keamanan Agen AI untuk enterprise

JAKARTA (IndoTelko) - TrendAI™ memperluas perlindungan NVIDIA Agent Safety Platform melalui integrasi intelijen ancaman (threat intelligence), pemantauan aktivitas, serta deteksi dan respons keamanan di seluruh ekosistem AI.

Inisiatif ini mengandalkan TrendAI Vision One™ untuk melengkapi sistem keamanan NVIDIA, mulai dari model AI, perangkat lunak pengorkestrasi agen, hingga perangkat, data, dan jaringan yang digunakan. Pendekatan tersebut ditujukan untuk membantu perusahaan memperluas penerapan agen AI otonom dari tahap uji coba ke lingkungan produksi secara aman.

TrendAI™, unit bisnis Trend Micro Incorporated, menyatakan keamanan agen AI perlu diterapkan secara menyeluruh. Pasalnya, agen AI tidak hanya menjalankan proses penalaran melalui model, tetapi juga menggunakan harness untuk mengorkestrasi agen dan sub-agen, serta mengakses berbagai perangkat dan sumber data.

Kombinasi kemampuan tersebut memungkinkan agen menyimpan kredensial, mempertahankan konteks lintas sesi, dan menjalankan tindakan pada sistem produksi tanpa persetujuan manusia di setiap langkah. Karena itu, keamanan menjadi faktor penting ketika perusahaan mulai menerapkan agen AI dalam skala besar.

NVIDIA Agent Safety Platform menempatkan kontrol keamanan pada lapisan infrastruktur. NVIDIA OpenShell menerapkan kebijakan di luar lingkungan eksekusi agen, sedangkan NVIDIA BlueField-4 DPU dan NVIDIA DOCA menyediakan lapisan keamanan pada tingkat perangkat keras.

TrendAI melengkapi mekanisme tersebut dengan intelijen ancaman untuk membantu menentukan kebijakan keamanan, visibilitas aktivitas agen, serta kemampuan mendeteksi dan merespons ancaman.

“Keamanan tidak bisa hanya berfokus di satu titik, melainkan harus mencakup model, harness, serta setiap tool dan sumber data yang diakses oleh agen,” ujar Rachel Jin, Chief Platform and Business Officer sekaligus Head of TrendAI.

Menurutnya, NVIDIA membangun batasan mengenai tindakan yang dapat dilakukan agen, sementara TrendAI menghadirkan threat intelligence dan pengawasan untuk mendukung penerapan kebijakan serta memantau aktivitas agen.

Perlindungan Menyeluruh hingga Lapisan Hardware

TrendAI Vision One mengintegrasikan perlindungan pada sejumlah lapisan AI factory. Pada sisi model, platform ini menyediakan inspeksi terhadap prompt dan respons untuk memblokir prompt injection dan jailbreak, serta menyensor data sensitif sebelum terjadi kebocoran.

Untuk tata kelola harness dan perangkat, tim keamanan dapat mengendalikan akses agen terhadap perangkat dan server Model Context Protocol (MCP), memeriksa pemanggilan perangkat, serta menganalisis perilaku dan artefak AI saat sistem berjalan.

Platform tersebut juga mencakup pengamanan data dan identitas. Kemampuannya meliputi penemuan dan klasifikasi data sensitif, pencegahan akses di luar kewenangan, perlindungan berkas yang dibaca atau ditulis agen, serta pencabutan hak akses berlebih dari agen dan identitas nonmanusia lainnya.

Di tingkat infrastruktur, TrendAI Vision One memanfaatkan telemetri NVIDIA BlueField DPU dan DOCA untuk mendukung deteksi ancaman. Sistem ini dirancang agar tetap dapat mendeteksi aktivitas mencurigakan ketika sistem operasi host telah dikompromikan. Sinyal keamanan AI juga dikorelasikan dengan telemetri endpoint, jaringan, dan identitas untuk membantu mendeteksi pergerakan lateral oleh agen yang dibajak.

Dukung Adopsi AI di Indonesia

Country Manager TrendAI Indonesia, Fetra Syahbana, mengatakan keamanan perlu menjadi bagian dari perencanaan sejak awal ketika perusahaan beralih dari proyek percontohan ke penerapan agen AI otonom di lingkungan produksi.

Ia menambahkan, dukungan local instance TrendAI Vision One di Indonesia memungkinkan perusahaan menerapkan sistem perlindungan tersebut dengan data tetap berada di dalam negeri, sesuai cakupan layanan yang tersedia.

“Enterprise di Indonesia kini dapat mengimplementasikan sistem perlindungan berbasis hardware ini dengan jaminan data residency di dalam negeri secara penuh, membantu tim manajemen risiko dan kepatuhan berinovasi tanpa ragu sembari tetap memenuhi ekspektasi regulasi lokal,” ujar Fetra.

Melalui kolaborasi ini, TrendAI dan NVIDIA berupaya membantu perusahaan mengelola risiko penggunaan agen AI sekaligus memperluas penerapannya. Perlindungan berlapis diharapkan mendukung inovasi AI dengan pengawasan yang lebih baik terhadap akses, aktivitas, dan potensi ancaman di seluruh infrastruktur perusahaan. (mas)