☰
✕

AMD luncurkan EPYC generasi keenam, bidik kebutuhan era Agentic AI

JAKARTA (IndoTelko) - AMD mengumumkan ketersediaan umum prosesor server AMD EPYC Generasi Keenam berbasis arsitektur Zen 6 untuk memperkuat kebutuhan komputasi data center di era kecerdasan buatan (AI).

Prosesor yang menggunakan platform SP7 tersebut mulai dikirim oleh sejumlah vendor server terkemuka. Sementara itu, layanan cloud berbasis prosesor terbaru ini dijadwalkan segera tersedia melalui Microsoft Azure dan Oracle Cloud Infrastructure (OCI).

Senior Vice President and General Manager Compute and Enterprise AI AMD, Dan McNamara, mengatakan perkembangan AI memperluas fungsi CPU di berbagai lapisan infrastruktur data center.

Menurutnya, AMD EPYC Generasi Keenam dirancang untuk mendukung berbagai kebutuhan, mulai dari pengoperasian agen AI, penyediaan data bagi infrastruktur akselerasi, hingga aplikasi perusahaan yang menjadi fondasi operasional bisnis.

Optimalkan Infrastruktur Agentic AI

AMD mengklaim EPYC Generasi Keenam sebagai portofolio CPU server yang menghadirkan pilihan prosesor berdasarkan karakteristik beban kerja. Pendekatan tersebut mencakup kebutuhan kepadatan komputasi, frekuensi, bandwidth, dan efisiensi energi yang berbeda-beda.

Kebutuhan tersebut semakin relevan dengan perkembangan agentic AI. Dalam satu alur kerja, agen AI dapat menjalankan model, mengambil data, mengeksekusi kode, serta berinteraksi dengan basis data dan aplikasi perusahaan.

Salah satu produk unggulan dalam generasi terbaru ini adalah AMD EPYC 9996. AMD menyebut prosesor tersebut menawarkan performa hingga 3,7 kali dibandingkan sistem berbasis Nvidia Vera. Dibandingkan Intel Xeon 6980P, performanya diklaim mencapai 2,2 kali lebih tinggi dengan performa per dolar hingga dua kali lipat.

Untuk infrastruktur agentic AI, AMD juga menghadirkan prosesor yang dioptimalkan bagi tiga kebutuhan, yakni layanan komputasi serbaguna, node host GPU, dan sandbox agen.

Prosesor node host dengan frekuensi hingga 5,3 GHz diklaim mampu menghasilkan throughput keluaran large language model (LLM) hingga 1,8 kali dibandingkan prosesor EPYC generasi sebelumnya.

Sementara itu, prosesor EPYC berkepadatan tinggi diklaim mampu menjalankan jumlah agen per watt CPU hingga sekitar 3,3 kali lebih banyak dibandingkan Nvidia Vera dan 2,5 kali dibandingkan Intel Xeon 6980P untuk kebutuhan sandbox agen.

AMD juga memperkirakan server berbasis EPYC 9996 dapat mendukung sekitar 1,18 kali lebih banyak agen dalam satu rak dengan batas daya 35 kilowatt dibandingkan sistem dengan pengaturan manajemen daya standar.

Dari Server hingga Rak AI

Selain server individual, AMD memperluas pemanfaatan EPYC Generasi Keenam melalui infrastruktur rak agentic AI AMD Helion.

AMD menawarkan tiga pilihan konfigurasi, yaitu AMD Helion Liquid untuk penerapan berkepadatan tinggi dengan pendinginan cair, AMD Helion Air untuk data center berpendingin udara, serta AMD Helion Air Inference yang menggabungkan eksekusi CPU dan inferensi GPU lokal dalam satu rak.

Bersama mitra ekosistem server, AMD mengembangkan konfigurasi rak Helion berkepadatan tinggi. Beberapa konfigurasi diklaim dapat mencapai kapasitas hingga 73.728 thread dalam satu rak.

Pelanggan dapat menyesuaikan konfigurasi CPU dan GPU, sistem pendinginan, serta konektivitas berdasarkan kebutuhan dan infrastruktur data center masing-masing.

Didukung Ekosistem Server dan Cloud

Sejumlah perusahaan teknologi besar telah terlibat dalam pengembangan dan penerapan platform AMD EPYC Generasi Keenam.

Meta disebut telah memvalidasi platform berbasis prosesor tersebut sebagai bagian dari persiapan penerapan dalam skala besar.

Di Microsoft Azure, prosesor generasi terbaru AMD digunakan untuk mendukung sejumlah layanan. Azure HDv2 saat ini memasuki tahap pratinjau untuk pemrosesan data AI, agentic AI, dan komputasi berkinerja tinggi (HPC). Azure HXv2 ditujukan untuk kebutuhan electronic design automation (EDA) dan komputasi teknis.

Microsoft juga menyiapkan Azure ND MI455X v7 berbasis AMD Helios untuk mendukung inferensi AI dalam skala produksi.

Sementara itu, Oracle Cloud Infrastructure (OCI) akan menggunakan AMD EPYC Generasi Keenam pada instans komputasi OCI Compute E7. Layanan tersebut ditujukan untuk menjalankan aplikasi perusahaan dan layanan berbasis CPU yang mendukung ekosistem model AI.

Melalui EPYC Generasi Keenam, AMD memperluas portofolio prosesor server untuk kebutuhan perusahaan, layanan cloud, HPC, dan infrastruktur AI. Perusahaan menargetkan peningkatan kapasitas komputasi sekaligus memberikan pilihan konfigurasi yang lebih fleksibel bagi pengelola data center dalam menghadapi pertumbuhan beban kerja AI. (mas)