Studi SAS: AI tepercaya 15 kali lebih berpeluang hasilkan ROI tinggi

JAKARTA (IndoTelko) - Penerapan kecerdasan buatan (AI) tidak hanya bergantung pada kecanggihan teknologi. Faktor tata kelola, kualitas data, transparansi, dan akuntabilitas turut menentukan seberapa besar investasi AI mampu menghasilkan dampak bisnis.

Laporan terbaru SAS yang memuat hasil riset International Data Corporation (IDC) menunjukkan organisasi yang menerapkan pendekatan AI tepercaya (trusted AI) memiliki kemungkinan 15 kali lebih besar untuk mencatat return on investment (ROI) tinggi dari proyek AI dibandingkan organisasi yang belum menerapkannya secara kuat.

Temuan tersebut tercantum dalam laporan tahunan kedua bertajuk Data and AI Impact Report: The New Economics of Trust. Studi ini menunjukkan organisasi dengan tata kelola, kualitas data, dan kemampuan audit yang kuat secara konsisten mencatat kinerja lebih baik.

Kelompok organisasi dengan penerapan AI tepercaya paling kuat mencatat ROI setidaknya dua kali lebih tinggi. Sebaliknya, kurang dari satu dari 20 organisasi yang masih tertinggal dalam penerapan AI tepercaya mampu mencatat hasil serupa.

Chief Technology Officer SAS, Bryan Harris, mengatakan semakin besar kemampuan AI, semakin penting pula organisasi memastikan sistem tersebut dapat dipercaya.

“Ketika AI bekerja dengan baik, dampaknya sangat besar,” ujar Harris.

Namun, menurut dia, berbagai penelitian menunjukkan agen AI mutakhir masih dapat memiliki tingkat kesalahan lebih dari 25% ketika menjalankan tugas-tugas kompleks. Kondisi tersebut menjadi perhatian khusus untuk pengambilan keputusan yang memiliki risiko tinggi.

Untuk meningkatkan akurasi dan konsistensi, organisasi dinilai perlu mengintegrasikan keahlian bidang terkait ke dalam alur kerja berbasis agen, sembari tetap menempatkan manusia sebagai bagian penting dalam tata kelola dan pengawasan.

Sementara itu, Vice President IDC, Chris Marshall, mengatakan meningkatnya kemampuan AI untuk bekerja secara mandiri menghadirkan tantangan baru dalam menjaga kepercayaan pengguna terhadap sistem yang belum sepenuhnya dipahami.

“Temuan kami menunjukkan bahwa pengawasan yang lebih kuat, kemampuan untuk menjelaskan keputusan, akuntabilitas dan fondasi data yang kuat semakin menjadi prasyarat bagi organisasi untuk memperluas penerapan AI secara efektif,” kata Marshall.

AI yang Tidak Transparan Jadi Risiko Bisnis

Laporan tersebut menemukan bahwa kepercayaan pengguna menjadi salah satu faktor penting dalam pemanfaatan AI. Ketika sistem tidak mampu menghasilkan rekomendasi yang tepat atau menjelaskan dasar pengambilan keputusan, karyawan cenderung melakukan koreksi secara manual.

Kondisi tersebut dapat mengurangi produktivitas dan pada akhirnya memengaruhi profitabilitas organisasi.

Sebanyak 97,2% pengguna tercatat tidak mengikuti rekomendasi yang dihasilkan AI setidaknya dalam beberapa kasus. Salah satu alasan utama adalah ketidakmampuan AI menjelaskan dasar dari rekomendasi yang diberikan.

Tingkat kepercayaan juga menurun dari 76% pada AI generatif menjadi 66% pada AI berbasis agen. Penurunan ini menunjukkan adanya kekhawatiran yang lebih besar ketika sistem AI memperoleh tingkat otonomi yang lebih tinggi.

SAS dan IDC menekankan kualitas keputusan AI pada dasarnya bergantung pada kualitas data yang digunakan. Karena itu, penguatan fondasi data menjadi bagian penting untuk meningkatkan kepercayaan sekaligus mengurangi kecenderungan pengguna mengabaikan rekomendasi AI.

AI Tepercaya Berikan Dampak Bisnis Lebih Besar

Studi tersebut juga menemukan adanya kesenjangan ROI yang semakin lebar antara organisasi yang memprioritaskan AI tepercaya dan organisasi yang belum melakukannya.

Organisasi yang berinvestasi dalam penerapan AI tepercaya memiliki kemungkinan 15 kali lebih besarmencatat ROI tinggi, yakni 62% dibandingkan 4%.

Organisasi dengan penerapan AI tepercaya paling kuat juga memperoleh peningkatan 1,85 kali lebih besar pada 13 indikator hasil bisnis, termasuk pertumbuhan pendapatan, penghematan biaya, dan pengalaman pelanggan.

Investasi di bidang ini pun terus meningkat. Sebanyak 85% pemimpin AI dengan penerapan AI tepercaya meningkatkan investasi lebih dari 10% pada tahun ini.

Infrastruktur Data Masih Menjadi Tantangan

Di tengah peningkatan adopsi AI, sebagian besar organisasi masih menghadapi keterbatasan pada fondasi data dan infrastrukturnya.

Studi menemukan hanya 17,5% perusahaan yang memiliki infrastruktur data sepenuhnya optimal dan cukup matang untuk memenuhi kebutuhan AI berbasis agen.

Organisasi dengan fondasi data yang optimal memiliki kemungkinan empat kali lebih besar untuk mengharapkan ROI tinggi dari proyek AI. Mereka juga enam kali lebih mungkin menerapkan kontrol kualitas data dan kemampuan menjelaskan keputusan AI yang dibutuhkan untuk membangun kepercayaan.

Pendekatan Berbeda di Tiap Industri

Studi ini dilakukan melalui survei global terhadap 2.699 pengambil keputusan yang memiliki pengetahuan atau pengaruh terhadap inisiatif data dan AI di organisasi masing-masing.

Survei mencakup 28 negara dan empat sektor utama, yakni perbankan, asuransi, ilmu hayati, dan sektor publik.

Di sektor perbankan, misalnya, tata kelola AI mulai diposisikan tidak hanya sebagai kebutuhan kepatuhan, tetapi juga bagian dari operasional dan daya saing. Sebanyak 85% bank yang berada di kelompok terdepan dalam penerapan AI telah memiliki kerangka tata kelola, dibandingkan 29% bank yang masih tertinggal.

Di sektor publik, 41% pemimpin meningkatkan investasi AI tepercaya lebih dari 20% dalam satu tahun ke depan. Sementara di sektor ilmu hayati, 23% organisasi telah memperluas penerapan AI di seluruh organisasi, menjadi proporsi tertinggi dibandingkan sektor lain dalam studi tersebut.

Lima Pilar AI Tepercaya

Dalam studi ini, AI tepercaya didefinisikan sebagai AI yang dirancang agar andal, adil, aman, memenuhi standar regulasi, serta mampu menjelaskan bagaimana suatu keputusan dihasilkan.

Pengguna dan pengambil keputusan juga perlu memiliki mekanisme akuntabilitas yang jelas ketika sistem AI menghasilkan keluaran yang tidak tepat atau tidak sesuai kebutuhan.

Organisasi dalam studi tersebut dinilai menggunakan skor 0 hingga 100 berdasarkan lima dimensi AI tepercaya. Organisasi dengan skor rata-rata 80 atau lebih dikategorikan sebagai pemimpin AI tepercaya.

Lima kriteria yang digunakan meliputi:

•
Kualitas dan tata kelola data
•
Tata kelola dan pengawasan model
•
Kemampuan menjelaskan keputusan dan keadilan
•
Kebijakan AI yang bertanggung jawab
•
Audit dan akuntabilitas

Temuan SAS dan IDC tersebut menunjukkan bahwa keberhasilan investasi AI tidak semata ditentukan oleh kemampuan teknologi, tetapi juga oleh kesiapan organisasi dalam membangun fondasi data, tata kelola, transparansi, dan mekanisme pengawasan yang memadai. (mas)