Bukan lagi token, industri AI mulai mengejar kepercayaan

JAKARTA (IndoTelko) - Perusahaan di kawasan Asia Pasifik, termasuk Indonesia, mulai memasuki babak baru dalam pemanfaatan kecerdasan buatan (AI). Fokus industri kini tidak lagi sekadar mencoba teknologi AI generatif, tetapi memastikan teknologi tersebut mampu berjalan stabil, aman, dan memberikan nilai bisnis nyata.

Chief Business Officer dan General Manager of Applied AI Cloudera, Abhas Ricky, mengatakan tantangan terbesar penerapan AI enterprise saat ini bukan lagi mendapatkan akses terhadap model AI terbaru, melainkan bagaimana organisasi mampu mengelola dan mengamankannya ketika masuk ke lingkungan produksi.

Menurutnya, kemampuan model AI semakin mudah diperoleh dan mulai menjadi komoditas. Keunggulan kompetitif justru akan ditentukan oleh kemampuan perusahaan dalam membangun sistem AI yang dapat dipercaya, memiliki tata kelola jelas, serta mampu menghasilkan manfaat yang terukur.

“Pertanyaan utama perusahaan kini bukan lagi mengapa harus menggunakan AI, tetapi bagaimana memastikan AI bekerja dengan benar, aman, dan memberikan dampak bisnis,” ujar Abhas dalam keterangannya.

Perubahan fokus ini terjadi karena banyak proyek AI yang masih kesulitan membuktikan manfaat bisnis. Studi dari inisiatif NANDA MIT menunjukkan sebagian besar implementasi AI generatif di perusahaan belum memberikan dampak finansial yang terukur meski telah mengeluarkan investasi besar.

Kondisi tersebut menunjukkan bahwa keberhasilan AI tidak cukup hanya dengan membeli model terbaik. Perusahaan perlu menghitung nilai berdasarkan hasil pekerjaan yang berhasil diselesaikan, bukan hanya berdasarkan jumlah token yang digunakan.

Dalam tahap produksi, organisasi juga harus menentukan lokasi terbaik untuk menjalankan beban kerja AI. Lingkungan public cloud memberikan fleksibilitas dan kecepatan eksperimen, sementara private infrastructure atau sovereign AI dapat menjadi pilihan untuk kebutuhan yang membutuhkan kontrol lebih besar, keamanan data, dan latensi rendah.

Selain aspek ekonomi, tata kelola menjadi faktor penting dalam memastikan AI dapat digunakan secara bertanggung jawab. Perusahaan harus mampu mengetahui data yang digunakan, alasan sistem mengambil keputusan, serta pihak yang bertanggung jawab terhadap hasil yang dihasilkan AI.

Data Readiness Index Cloudera menunjukkan masih banyak organisasi di Asia Pasifik yang belum menerapkan tata kelola data secara menyeluruh. Kondisi ini menjadi tantangan ketika perusahaan mulai menggunakan agentic AI yang mampu mengambil tindakan secara otomatis dalam berbagai proses bisnis.

“Tanpa tata kelola yang kuat, peningkatan skala penggunaan AI justru dapat memperbesar risiko operasional,” kata Abhas.

Karena itu, perusahaan perlu menerapkan batasan penggunaan AI, mekanisme audit, pengawasan manusia pada keputusan berisiko tinggi, serta sistem yang mampu menghentikan proses ketika terjadi kesalahan.

Di Indonesia, prinsip tersebut juga mulai mendapat perhatian, terutama pada sektor yang memiliki tingkat risiko tinggi seperti perbankan dan layanan keuangan. Penggunaan AI membutuhkan pengawasan manusia agar sistem tetap berjalan sesuai tujuan dan tidak mengambil keputusan kritis tanpa kontrol.

Menurut Abhas, tingkat kematangan perusahaan dalam mengadopsi AI bukan hanya diukur dari banyaknya proses yang berhasil diotomatisasi, tetapi juga dari kemampuan menentukan kapan AI tidak boleh mengambil keputusan secara mandiri.

Ke depan, nilai utama AI tidak lagi berada pada kecanggihan model semata, melainkan pada infrastruktur, keamanan, tata kelola, dan kepercayaan yang dibangun di sekelilingnya.

“AI yang berhasil bukan hanya AI yang dapat bekerja, tetapi AI yang dapat dipercaya untuk bekerja dalam skala besar,” pungkas Abhas. (mas)