JAKARTA (IndoTelko) - Perkembangan kecerdasan buatan (AI) yang bergerak cepat membuat perusahaan perlu mengubah cara merancang infrastruktur teknologi. Alih-alih mengejar teknologi yang dianggap paling unggul saat ini, kemampuan beradaptasi terhadap perubahan workload dinilai menjadi faktor yang lebih penting.
General Manager AMD APAC Alexey Navolokin mengatakan, belum ada yang dapat memastikan bentuk AI dalam lima tahun mendatang, termasuk arsitektur model, keseimbangan training dan inference, maupun lokasi pemrosesan AI.
Karena itu, investasi infrastruktur untuk lima hingga tujuh tahun ke depan perlu dirancang agar tetap fleksibel ketika kebutuhan bisnis berubah.
Menurut Alexey, perubahan workload AI tidak lagi sebatas peningkatan kapasitas komputasi. Training, inference, dan Agentic AI memiliki karakteristik berbeda sehingga membutuhkan kombinasi komputasi, memori, jaringan, storage, software, daya, dan keandalan yang berbeda pula.
“Risikonya adalah membangun infrastruktur yang tidak dapat beradaptasi dengan perubahan kebutuhan ketika workload terus berkembang esok hari,” tulis Alexey.
Tiga Prinsip Infrastruktur AI
Alexey menyebut terdapat tiga karakteristik yang perlu menjadi perhatian dalam membangun infrastruktur AI, yakni adaptable, economical, dan open.
Pertama, adaptable berarti perusahaan memiliki pilihan konfigurasi yang cukup luas untuk menyesuaikan infrastruktur dengan perubahan workload tanpa harus selalu berpindah vendor.
Kedua, economical bukan sekadar mencari biaya termurah, melainkan memastikan sumber daya yang digunakan sesuai dengan pekerjaan. Untuk Agentic AI, misalnya, satu permintaan dapat terdiri dari rangkaian proses inference, sehingga ukuran efisiensi bukan hanya biaya per token, tetapi juga biaya untuk menyelesaikan satu tugas.
Ketiga, open berkaitan dengan penggunaan standar terbuka agar perusahaan tidak terlalu bergantung pada roadmap satu vendor. Interkoneksi dan networking terbuka menjadi bagian penting untuk menjaga fleksibilitas tersebut.
AMD Siapkan Portofolio AI
Untuk mendukung pendekatan tersebut, AMD mengembangkan portofolio teknologi AI di berbagai lapisan. Ekosistem tersebut mencakup prosesor AMD EPYC untuk inference, tokenisasi, orkestrasi dan komputasi general-purpose, serta AMD Ryzen AI dan Radeon untuk kebutuhan AI lokal.
Untuk workload AI yang lebih berat, AMD menawarkan Instinct PCIe untuk inference dan fine-tuning, sistem delapan GPU Instinct untuk distributed inference dan training, hingga solusi AMD Helios untuk deployment rack-scale.
Alexey menilai keluasan hardware baru memberikan nilai ketika didukung fondasi software yang sama. AMD mengandalkan ROCm untuk memungkinkan workload berpindah di antara pilihan hardware tanpa harus membangun ulang seluruh lingkungan dari awal.
Menurutnya, organisasi yang mampu menghadapi perubahan AI bukanlah mereka yang berhasil menebak teknologi pemenang sejak awal, melainkan yang memiliki ruang untuk beradaptasi ketika arah teknologi berubah.
Karena AI dipastikan terus berkembang, infrastruktur yang dibangun hari ini perlu dirancang dengan fleksibilitas, efisiensi, dan keterbukaan sebagai prinsip utama. (mas)