Sumsub bentuk AI Council untuk perkuat akuntabilitas AI di Asia Pasifik

JAKARTA (IndoTelko)- Adopsi kecerdasan buatan (AI) di Indonesia semakin berkembang menuju sistem otonom yang mampu mengambil keputusan dan bertindak atas nama organisasi. Namun, kemampuan perusahaan untuk membuktikan tindakan dan keputusan AI tersebut dinilai belum sejalan dengan tingkat pemanfaatannya.

Riset Sumsub bertajuk APAC State of Digital Trust: AI Governance Benchmark menemukan bahwa 96% organisasi di Indonesia yakin mampu menjelaskan keputusan AI mereka. Namun, hanya 34% yang menyimpan rekam jejak keputusan secara lengkap dan tahan manipulasi.

Survei independen yang dilakukan terhadap 720 profesional senior di sembilan negara Asia Pasifik (APAC) tersebut dikerjakan Blackbox Research bersama Singapore FinTech Association.

Sumsub menyebut kesenjangan antara keyakinan organisasi dan kemampuan membuktikan keputusan AI sebagai Accountability Asymmetry. Kondisi ini menunjukkan tantangan dalam memastikan setiap tindakan AI dapat ditelusuri dan dipertanggungjawabkan.

Temuan lainnya menunjukkan 91% organisasi di Indonesia nyaman membiarkan AI mengambil keputusan tanpa keterlibatan manusia untuk proses rutin. Namun, tingkat kenyamanan itu turun menjadi 55% ketika keputusan berkaitan dengan transaksi keuangan.

Sebanyak 64% responden juga menyatakan organisasinya pernah mengalami tindakan AI yang menimbulkan masalah atau hasil yang tidak diinginkan. Selain itu, 94% mengaku pernah menggunakan sistem AI di luar tujuan awalnya dalam setahun terakhir.

Kualitas data menjadi perhatian utama bagi 56% responden Indonesia ketika AI bertindak mewakili organisasi mereka. Angka tersebut merupakan yang tertinggi di kawasan APAC. Di sisi lain, 99% responden menyatakan siap mengadopsi solusi yang mampu melacak setiap tindakan AI hingga kepada orang yang bertanggung jawab.

Sumsub Bentuk Agentic AI Council

Kebutuhan terhadap tata kelola AI juga berkaitan dengan perkembangan regulasi. Otoritas Jasa Keuangan (OJK) telah menerbitkan Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia sebagai acuan pengelolaan AI bagi industri perbankan, mulai dari manajemen risiko hingga audit.

Sementara itu, rancangan Peraturan Presiden mengenai Peta Jalan AI Nasional dan Etika AI disebut dalam materi Sumsub masih menunggu penandatanganan Presiden pada saat keterangan tersebut disampaikan.

Untuk membantu menjawab kesenjangan akuntabilitas, Sumsub meluncurkan Sumsub Agentic AI Council. Forum lintas sektor di APAC ini dirancang untuk mempertemukan pemangku kebijakan, pelaku teknologi, akademisi, industri, dan masyarakat sipil dalam menyusun panduan praktis bagi penggunaan agentic AI yang bertanggung jawab.

Council akan berfokus pada tiga pilar. Pertama, Adopt, yakni mengeksplorasi pemanfaatan agentic AI untuk kepatuhan, pencegahan penipuan, pengalaman pelanggan, dan efisiensi operasional.

Kedua, Build, yang menitikberatkan pembangunan fondasi teknis dan operasional, termasuk identitas agen, kredensial yang dapat diverifikasi, arsitektur keamanan, keterlacakan, dan interoperabilitas.

Ketiga, Govern, yang membahas kebijakan, standar, serta mekanisme akuntabilitas untuk memperjelas pembagian tanggung jawab seiring meningkatnya otonomi sistem AI.

Vice President APAC Sumsub, Penny Chai, mengatakan adopsi AI perlu disertai kemampuan untuk melacak keputusan dan memastikan pihak yang bertanggung jawab.

“Seiring agen AI mengemban tanggung jawab yang semakin besar, organisasi butuh infrastruktur kepercayaan yang menopang akuntabilitas itu di lapangan,” ujarnya.

Ia menjelaskan, Sumsub mengembangkan kerangka Know Your Agent dengan menempatkan akuntabilitas manusia sebagai inti. Pendekatan ini menghubungkan setiap agen AI dengan identitas manusia yang terverifikasi dan menggunakan pemeriksaan liveness untuk memastikan otorisasi manusia pada momen-momen kritis.

APAC Government Relations Lead Sumsub, Jason Chan, menambahkan bahwa forum tersebut akan menjadi ruang berbagi pengalaman mengenai tantangan nyata dalam penerapan agentic AI yang bertanggung jawab.

Fokus Awal pada Agentic Commerce

Sumsub membuka pendaftaran minat bagi para pakar yang ingin menjadi penasihat pendiri (founding advisor) Council. Nama-nama penasihat tersebut direncanakan diumumkan menjelang pertemuan perdana pada kuartal I 2027.

Kelompok kerja pertama akan berfokus pada agentic commerce, yakni situasi ketika agen AI bertindak mewakili konsumen maupun pelaku bisnis.

Melalui forum tersebut, Sumsub ingin mendorong pengembangan kerangka kerja yang dapat menjelaskan untuk siapa agen AI bertindak, tindakan apa yang diizinkan, serta aktivitas apa yang telah dilakukan. Pendekatan ini diharapkan membantu organisasi memperluas pemanfaatan AI dengan pengawasan dan pertanggungjawaban yang lebih jelas. (mas)