JAKARTA (IndoTelko) Perkembangan agentic AI mendorong perubahan kebutuhan infrastruktur pusat data. Jika selama ini pembahasan kecerdasan buatan lebih banyak berfokus pada kemampuan GPU untuk menjalankan model AI, implementasi agentic AI dalam lingkungan produksi justru semakin menonjolkan pentingnya performa CPU dalam mendukung berbagai layanan pendukung yang bekerja di belakang layar.
Menurut AMD, sistem agentic AI tidak hanya bergantung pada proses inferensi model, tetapi juga membutuhkan lapisan infrastruktur yang kompleks, mulai dari layanan orkestrasi, basis data, middleware, API, cache, hingga berbagai komponen control plane yang harus berjalan secara bersamaan dan dalam skala besar.
Komponen-komponen tersebut umumnya merupakan beban kerja yang sangat bergantung pada CPU. Seiring meningkatnya jumlah agen AI yang beroperasi secara simultan, kebutuhan terhadap kapasitas pemrosesan CPU juga terus bertambah.
AMD menilai bahwa dalam implementasi dunia nyata, kemampuan sebuah infrastruktur tidak cukup diukur berdasarkan performa satu prosesor atau satu server. Faktor yang lebih relevan adalah seberapa besar kapasitas layanan yang dapat dihadirkan dalam satu rak pusat data dengan batas daya dan pendinginan tertentu.
Karena itu, perusahaan menggunakan pendekatan performa tingkat rak (rack-scale performance) sebagai tolok ukur utama untuk menilai kemampuan platform komputasi dalam mendukung lingkungan agentic AI.
Dalam simulasi rak dengan kapasitas daya 100 kW yang menggunakan konfigurasi server dua prosesor, AMD mengklaim prosesor AMD EPYC 9965 mampu menghasilkan throughput tingkat rak sekitar 2,37 kali lebih tinggi dibandingkan platform NVIDIA Vera dan sekitar 1,6 kali dibandingkan Intel Xeon 6980P.
Sementara itu, generasi berikutnya dari keluarga EPYC dengan nama kode “Venice” disebut berpotensi meningkatkan keunggulan tersebut hingga sekitar 3,3 kali dibandingkan Vera.
AMD menjelaskan bahwa keunggulan tersebut diperoleh dari kombinasi jumlah inti pemrosesan yang lebih tinggi dan efisiensi pemanfaatan daya dalam batas operasional rak yang sama.
Menurut perusahaan, semakin tinggi kepadatan inti prosesor yang dapat ditempatkan dalam satu rak tanpa melampaui batas daya dan pendinginan, semakin besar pula kapasitas layanan yang dapat dijalankan secara bersamaan.
Kondisi ini menjadi penting bagi implementasi agentic AI karena sebagian besar proses pendukung, seperti pengelolaan alur kerja, penyimpanan status, koordinasi antar agen, layanan web, hingga transaksi basis data, bergantung pada sumber daya CPU.
AMD menyebutkan bahwa peningkatan kapasitas layanan tingkat rak secara langsung akan berdampak pada kemampuan sistem untuk menangani lebih banyak agen AI secara bersamaan dengan tingkat respons yang lebih tinggi.
Selain meningkatkan performa, pendekatan tersebut juga dinilai dapat membantu operator pusat data mengoptimalkan penggunaan ruang, konsumsi energi, serta investasi infrastruktur yang telah dimiliki.
Melalui pendekatan rack-scale computing, AMD ingin menegaskan bahwa keberhasilan implementasi agentic AI tidak hanya ditentukan oleh kemampuan akselerator AI atau GPU, tetapi juga oleh fondasi komputasi umum yang menjalankan berbagai layanan pendukung di lingkungan produksi.
Dengan semakin banyak perusahaan yang mulai mengadopsi agentic AI untuk berbagai kebutuhan bisnis, kebutuhan akan platform CPU berkinerja tinggi diperkirakan akan menjadi salah satu faktor utama dalam menentukan skalabilitas, efisiensi, dan keberhasilan implementasi teknologi tersebut di masa depan. (mas)