Red Hat luncurkan asago untuk amankan implementasi AI

JAKARTA (IndoTelko) - Red Hat memperkenalkan asago (AI Safety And Governance Orchestration), sebuah proyek komunitas open source yang dirancang untuk membantu perusahaan menerapkan sistem AI secara aman dengan menghubungkan kebijakan tata kelola (policy) hingga implementasi di lingkungan produksi.

Inisiatif ini bertujuan mengatasi kesenjangan antara tim kepatuhan dan tim teknologi yang selama ini menghadapi tantangan dalam menerjemahkan aturan tata kelola AI menjadi kontrol operasional yang dapat diterapkan dan diaudit.

Melalui asago, organisasi dapat mengotomatisasi proses pengelolaan risiko AI, mulai dari identifikasi risiko, pengujian keamanan, penerapan mitigasi, hingga konfigurasi sistem produksi. Pendekatan tersebut diharapkan dapat mempercepat penerapan AI dari hitungan bulan menjadi hitungan hari.

Proyek ini dikembangkan melalui kolaborasi berbagai organisasi teknologi dan akademisi, termasuk Red Hat, Alquimia AI, Brave Software, IBM Research, Microsoft, NVIDIA, MIT Lincoln Laboratory, North Carolina State University, dan The Alan Turing Institute.

Vice President AI Engineering Red Hat, Steven Huels, mengatakan perkembangan AI enterprise membutuhkan mekanisme keamanan yang mampu mengikuti perubahan teknologi.

“Ketika perusahaan beralih dari eksperimen AI menuju agen AI yang beroperasi dalam jangka panjang, guardrails operasional menjadi kebutuhan penting. asago membantu menghubungkan kebijakan perusahaan dengan sistem AI yang berjalan di lingkungan produksi,” ujarnya.

asago bekerja melalui empat tahapan utama. Pertama, sistem melakukan pemetaan risiko dengan menerjemahkan kebijakan organisasi ke dalam standar seperti NIST AI Risk Management Framework, OWASP LLM Top 10, dan EU AI Act.

Tahap berikutnya adalah penilaian risiko melalui pengujian keamanan berbasis skenario. Setelah itu, sistem memberikan rekomendasi mitigasi berupa kontrol keamanan dan guardrails. Tahap terakhir adalah penerapan kontrol tersebut ke berbagai lingkungan teknologi seperti hybrid cloud dan Kubernetes.

Selain meningkatkan keamanan, asago juga menyediakan rekam jejak audit yang memungkinkan organisasi melacak hubungan antara kebijakan, pengujian, dan kontrol yang diterapkan dalam sistem AI.

Red Hat menilai kebutuhan terhadap tata kelola AI semakin besar seiring meningkatnya penggunaan teknologi tersebut di berbagai sektor. Perusahaan membutuhkan cara yang lebih sederhana untuk memastikan inovasi AI tetap berjalan tanpa mengabaikan aspek keamanan dan kepatuhan.

Proyek asago dirilis dengan lisensi Apache License 2.0 untuk mendorong kolaborasi terbuka. Platform ini juga dirancang agar dapat digunakan pada berbagai infrastruktur melalui konfigurasi deklaratif untuk Kubernetes, Terraform, dan Ansible.

Chief Product Officer Responsible AI Microsoft, Sarah Bird, mengatakan pendekatan berbasis komunitas diperlukan untuk menghadapi tantangan keamanan AI yang semakin kompleks.

“Tidak ada satu organisasi yang mampu menyelesaikan seluruh tantangan keamanan AI sendirian. Standar terbuka dan kolaborasi lintas ekosistem menjadi kunci membangun AI yang aman dan dapat dipercaya,” ujarnya.

Melalui asago, Red Hat dan para mitra berharap dapat membangun fondasi baru bagi penerapan AI enterprise yang lebih transparan, aman, dan mudah dikelola di berbagai lingkungan teknologi. (mas)