☰
✕

AMD perbesar kapasitas memori untuk beban kerja AI lokal

JAKARTA (IndoTelko) - AMD memperluas pilihan bagi perusahaan untuk mengembangkan dan menjalankan agen kecerdasan buatan (AI) secara lokal melalui prosesor Ryzen AI Max dan Ryzen AI Max PRO 400 Series. Platform ini dirancang untuk menangani beban kerja AI yang kompleks, sekaligus memberi perusahaan alternatif terhadap pemrosesan berbasis cloud.

Berbeda dari chatbot generatif yang umumnya merespons pertanyaan, agen AI (AI agent) dapat menjalankan serangkaian tugas lintas aplikasi, menganalisis informasi, dan mengambil tindakan sesuai konfigurasi. Kemampuan tersebut membuka peluang otomatisasi pekerjaan, tetapi juga meningkatkan kebutuhan komputasi, memori, dan pengelolaan biaya.

AMD menyebut prosesor terbarunya menawarkan hingga 16 core CPU berbasis arsitektur Zen 5, neural processing unit (NPU) dengan kemampuan 55 TOPS, serta 40 unit komputasi GPU. Kombinasi tersebut ditujukan untuk mendukung pengembangan dan eksekusi AI langsung di perangkat.

Salah satu peningkatan utama terdapat pada kapasitas memori terpadu. Ryzen AI Max 400 Series menawarkan memori hingga 192 GB, dengan hingga 160 GB dapat dialokasikan untuk GPU. Sebagai perbandingan, generasi sebelumnya memiliki kapasitas memori maksimum 128 GB, dengan hingga 96 GB untuk GPU.

AMD mengklaim Ryzen AI Max PRO 400 Series menjadi prosesor klien x86 pertama yang mampu menjalankan model dengan lebih dari 300 miliar parameter pada kuantisasi 4-bit tanpa mengalihkan pemrosesan ke cloud.

Kapasitas memori yang besar dinilai penting untuk beban kerja agentik karena satu alur kerja dapat melibatkan beberapa model AI, konteks panjang, dokumen perusahaan, serta berbagai aplikasi dan alat secara bersamaan.

Mendukung Pengembangan AI Enterprise

Pengembangan agen AI untuk perusahaan tidak hanya membutuhkan model dasar. Tim teknologi juga perlu menghubungkan model dengan dokumen internal dan repositori kode, membangun sistem retrieval-augmented generation (RAG), mengevaluasi model, membuat konektor, serta menguji perilaku agen.

Ryzen AI Max PRO 400 Series dirancang untuk mendukung rangkaian pekerjaan tersebut dalam satu sistem melalui kombinasi CPU, GPU terintegrasi, NPU, dan memori berkapasitas besar.

Platform ini mendukung lingkungan Windows dan Linux. Ekosistem perangkat lunak Ryzen AI juga mencakup sejumlah alat dan kerangka kerja, seperti PyTorch, vLLM, llama.cpp, Ollama, ComfyUI, dan LM Studio.

Dukungan tersebut memberi pengembang pilihan untuk membangun prototipe, menguji model, mengembangkan aplikasi AI, dan menjalankan beban kerja lokal tanpa harus selalu bergantung pada infrastruktur cloud.

Lokal dan Cloud Bisa Berjalan Bersamaan

AMD menilai penerapan AI perusahaan tidak harus memilih sepenuhnya antara sistem lokal dan cloud. Keduanya dapat digunakan secara bersamaan sesuai kebutuhan kemampuan model, keamanan data, dan biaya operasional.

Model cloud tetap relevan untuk pekerjaan yang membutuhkan kemampuan lebih tinggi daripada yang dapat disediakan model lokal. Sebaliknya, tugas tertentu dapat dijalankan langsung di perangkat untuk memberi perusahaan kendali lebih besar atas pemrosesan dokumen internal, kode sumber, berkas rekayasa, dan informasi sensitif.

Sebagai contoh, HP menggabungkan prosesor AMD Ryzen AI Max+ PRO 495 dengan Perplexity Portable Computer pada HP ZBook Ultra G3a 16. Sistem tersebut memungkinkan pengguna menjalankan model dan agen lokal bersama aplikasi profesional, serta mengakses model cloud ketika diperlukan kemampuan tambahan.

Pendekatan ini juga berkaitan dengan biaya. Agen AI berpotensi menggunakan token jauh lebih banyak dibandingkan chatbot biasa karena dapat menjalankan penalaran berulang, melakukan revisi, mencari informasi, dan memanggil model beberapa kali untuk menyelesaikan satu pekerjaan. Jika seluruh proses dilakukan melalui layanan cloud, setiap operasi dapat menambah biaya penggunaan.

Untuk membantu perusahaan mengevaluasi pilihan tersebut, AMD menyediakan Tokenomics Calculator. Alat ini memungkinkan organisasi memperkirakan biaya skenario AI berbasis cloud, lokal, maupun hibrida berdasarkan jumlah pengguna, konsumsi token, kebutuhan perangkat keras, dan harga model cloud.

Melalui pendekatan hibrida, perusahaan dapat menjalankan pekerjaan yang sesuai secara lokal dan menggunakan layanan cloud untuk tugas yang membutuhkan kemampuan model lebih tinggi. Perusahaan pun dapat membandingkan komposisi penggunaan tersebut sebelum menentukan strategi penerapan.

Dengan mulai tersedianya sistem Ryzen AI Max 400 Series dan Ryzen AI Max PRO 400 Series melalui mitra AMD, perusahaan memperoleh alternatif komputasi lokal untuk membawa agen AI dari tahap eksperimen menuju penggunaan operasional. Besarnya manfaat tetap bergantung pada jenis beban kerja, kebutuhan model, konfigurasi sistem, dan strategi penerapan masing-masing organisasi. (mas)