AMD perluas peran EPYC untuk infrastruktur AI generasi baru

JAKARTA (IndoTelko) - AMD memperluas perannya dalam infrastruktur kecerdasan buatan (AI) melalui kolaborasi dengan Google Cloud. Prosesor AMD EPYC generasi kelima kini mendukung sistem Google Cloud TPU 8tx, yang diklaim sebagai sistem Tensor Processing Unit (TPU) cloud pertama dengan kemampuan confidential computing berbasis hardware.

Kolaborasi ini menggabungkan performa CPU AMD EPYC, teknologi keamanan AMD Infinity Guard, serta kompatibilitas ekosistem software x86 dengan akselerasi AI Google Cloud. Kombinasi tersebut ditujukan untuk mendukung kebutuhan inferensi, fine-tuning, dan reinforcement learning, termasuk pemrosesan data sensitif di lingkungan cloud.

Dalam sistem TPU 8tx, prosesor AMD EPYC berfungsi sebagai CPU host yang menangani persiapan data, orkestrasi beban kerja, serta komunikasi berkecepatan tinggi dengan akselerator TPU. Peran ini menjadi penting karena sistem AI berbasis akselerator tetap membutuhkan CPU untuk mengelola aliran data dan menghubungkan proses komputasi dengan aplikasi lainnya.

Teknologi AMD Secure Encrypted Virtualization (SEV) pada prosesor EPYC juga digunakan untuk memperluas perlindungan confidential computing dari CPU ke akselerator yang terhubung. Melalui mekanisme verifikasi identitas dan konfigurasi keamanan akselerator, sistem membantu menjaga prompt pengguna, bobot model, serta data perantara tetap terlindungi saat berada di memori maupun ketika ditransfer antara host dan akselerator.

Senior Vice President and General Manager Compute and Enterprise AI AMD, Dan McNamara, mengatakan infrastruktur AI membutuhkan fondasi CPU yang mampu memenuhi tuntutan performa akselerator. Menurutnya, kolaborasi dengan Google Cloud membawa kemampuan performa, bandwidth memori, dan I/O AMD EPYC ke sistem TPU 8tx.

Sementara itu, Vice President and General Manager for AI and Computing Infrastructure Google Cloud, Mark Lohmeyer, menyebut integrasi tersebut menghadirkan confidential computing berbasis hardware pada TPU cloud untuk pertama kalinya. Teknologi ini ditujukan agar pelanggan dapat melindungi data dan kekayaan intelektual, sekaligus mempertahankan performa yang dibutuhkan model AI modern.

Perluas Ekosistem AI

Dukungan AMD EPYC pada TPU 8tx melanjutkan keterlibatan prosesor tersebut dalam portofolio confidential computing Google Cloud. Teknologi AMD SEV sebelumnya telah digunakan untuk mendukung perlindungan beban kerja pada Confidential VMs, Confidential GKE, Confidential Space, Confidential Managed Service for Apache Spark, dan Confidential Dataflow.

AMD juga menyebut EPYC telah menjadi CPU host pilihan bagi lebih dari 10 penyedia hyperscaler dan laboratorium AI frontier. Prosesor tersebut digunakan untuk mendukung sistem berbasis GPU AMD Instinct, GPU Nvidia, maupun akselerator AI berbasis application-specific integrated circuit (ASIC).

Kolaborasi AMD dan Google Cloud sendiri telah berlangsung selama beberapa generasi prosesor EPYC. Kerja sama tersebut mencakup dukungan untuk berbagai beban kerja Google Cloud Compute Engine, termasuk mesin virtual C4D, N4D, H4D, Z4D, dan G4.

Dengan integrasi pada TPU 8tx, kedua perusahaan memperluas kerja sama ke infrastruktur AI yang membutuhkan perlindungan data saat pemrosesan berlangsung. Langkah ini menyasar kebutuhan perusahaan yang mulai menerapkan model penalaran dan agen AI dalam lingkungan produksi. (mas)