JAKARTA (IndoTelko) - Akamai memperluas bisnis infrastruktur kecerdasan buatan (AI) melalui peluncuran Akamai Inference dan Akamai Agent Sandbox. Kedua layanan ini dirancang untuk membantu perusahaan menjalankan model dan agen AI dengan dukungan infrastruktur komputasi serta keamanan terintegrasi.
Akamai Inference menyediakan akses terkelola ke berbagai model AI melalui API yang kompatibel dengan OpenAI. Perusahaan dapat memanfaatkan model tersebut tanpa harus membangun dan mengelola seluruh infrastruktur penyajian model sendiri.
Layanan ini menawarkan pilihan penggunaan berbasis konsumsi maupun infrastruktur khusus. Saat diluncurkan, katalog Akamai Inference mencakup 12 model open-weight dengan ukuran 8 miliar hingga 2,8 triliun parameter, termasuk NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b, dan Google Gemma 4.
Sementara itu, Akamai Agent Sandbox menghadirkan lingkungan terisolasi untuk menjalankan agen AI, termasuk kode yang dihasilkan oleh agen tersebut. Teknologi isolasi berbasis WebAssembly memungkinkan pengembang menetapkan batasan terhadap penggunaan komputasi, memori, koneksi keluar, dan akses sistem.
Kedua layanan tersebut menjadi bagian dari strategi Akamai dalam menyediakan platform terpadu untuk membangun, menjalankan, dan mengamankan aplikasi AI. Infrastruktur Akamai Cloud menghubungkan sumber daya komputasi di pusat data dengan lebih dari 4.350 lokasi edge secara global.
Chief Operating Officer sekaligus General Manager Akamai Cloud, Adam Karon, mengatakan kebutuhan perusahaan terhadap infrastruktur AI terus berkembang, terutama untuk mendukung proses inference dan operasional agen AI.
Menurutnya, perusahaan membutuhkan platform yang tidak hanya mampu menjalankan AI, tetapi juga mengintegrasikan pengelolaan data, eksekusi model, dan keamanan dalam satu ekosistem.
Selain meluncurkan dua layanan tersebut, Akamai memperluas kapasitas komputasi AI melalui penambahan klaster GPU NVIDIA Blackwell Ultra. Perusahaan juga menyiapkan infrastruktur untuk mendukung platform NVIDIA Vera Rubin pada 2027.
Setiap node Blackwell Ultra yang terdiri dari delapan GPU memiliki total memori HBM3e sebesar 2,3 terabyte. Kapasitas ini ditujukan untuk mendukung kebutuhan perusahaan dalam membangun, menyempurnakan, dan menjalankan model AI berukuran besar.
Senior Vice President Cloud Technology Akamai, Jon Alexander, mengatakan perusahaan membutuhkan fleksibilitas untuk memilih antara layanan AI terkelola dan infrastruktur GPU khusus sesuai kebutuhan operasional.
Melalui pengembangan tersebut, Akamai berupaya menyediakan infrastruktur AI yang menggabungkan fleksibilitas komputasi, kendali atas model, serta perlindungan keamanan untuk mendukung penerapan AI di lingkungan produksi. (mas)