telkomsel halo

Dell AI Factory dan NVIDIA ingin akselerasi adopsi AI

04:45:00 | 06 Jun 2024
Dell AI Factory dan NVIDIA ingin akselerasi adopsi AI
Ilustrasi (dok)
JAKARTA (IndoTelko) - Dell Technologies mengembangkan kerja sama dengan NVIDIA untuk Dell AI Factory yang mencakuppembaruan server, edge, workstation, solusi dan layanan baru yang akan mempercepat adopsi dan inovasi AI.

Menurut Pendiri dan CEO Dell Technologies, Michael Dell, organisasi di dunia bergerak cepat untuk meraih peluang AI, dan karena itulah kolaborasiDell dan NVIDIA sangat penting. “Strategi pengembangan Dell AI Factorydengan NVIDIA melanjutkan misi bersama kami untuk memudahkan berbagai organisasi menerapkan AI agar mereka dapat bergerakmantap menuju revolusi teknologi baru ini,” ujarnya.

Sementara, Pendiri dan CEO NVIDIA menegaskan, AI generatif memerlukan infrastruktur komputasi baru sebuah pabrik AI yang bisa menghasilkan kecerdasan. “NVIDIA dan Dell bekerja sama menghadirkan penawaran solusi full-stack untuk berbagai industri di dunia yang mencakup komputasi, jaringan, dan perangkat lunak yang membantu para copilot, asisten coding, agen layanan pelanggan virtual, dan perusahaan-perusahaan digital yang menawarkan teknologi/solusi digital twin,” katanya.

Dell AI Factory dengan NVIDIA mengintegrasikan portofolio AI terdepan Dell dengan platform perangkat lunak NVIDIA AI Enterprise, yang didukung oleh GPU NVIDIA Tensor Core, fabric jaringan NVIDIA Spectrum-X Ethernet, dan DPU NVIDIA Bluefield. Pelanggan dapat membeli kemampuan-kemampuan terintegrasi yang sesuai dengan kebutuhan mereka, atau solusi full-stack yang telah tervalidasi untuk membantu mulai menggunakan contoh-contoh kasus AI yang memerlukan percepatan kinerja, seperti RAG, pelatihan model, dan inferensi.

Pembaruan-pembaruan yang dihadirkan di Dell AI Factory dengan NVIDIA akan membantu organisasi untuk hal-hal sebagai berikut :

1. Menggunakan teknologi komputasi canggihuntuk menangani penerapan AI skala besar

Dell PowerEdge XE9680L baru menghadirkan kinerja tinggi dan bisa mendukung delapan GPU NVIDIA Blackwell dalam sebuah form factor 4U yang lebih kecil. Server ini menyediakan kapasitas kepadatan rack-scale terbesar untuk GPU NVIDIA dalam sebuah rak x86 standar industri, menawarkan kapasitas kepadatan GPU 33% lebih banyak per simpul1. Platform ini menawarkan 20% slot PCIe Gen. 5 lebih banyak dan menggandakan pengembangan kapasitas jaringan North/South2.

Teknologi direct liquid cooling (DLC) meningkatkan efisiensi total serverdengan kapasitas pendingin CPU dan GPU yang lebih besar. PowerEdge XE9680L dirancang untuk mudahdiperbaiki dan akan tersedia dalam konfigurasi lengkap langsung dari pabrikuntuk penerapan rack-scale dan instalasi di lokasi.

Dell juga meluncurkan solusi rack-scalesiap pakai (turnkey) dengan densitas terbesar dan paling hemat energi,terdepan di industri, yang akan mempercepat time to value penerapan komputasi GPU skala besar. Solusi tersebut akan tersedia dalam beberapa varian, termasuk desain dengan pendingin udara (air cooling) yang mendukung 64 GPU dalam satu rak, atau dalam format dengan liquid coolingdengan 72 GPU NVIDIA Blackwell dalamsatu rak.

    Mempercepat penerapan aplikasi edge AI dengan Dell NativeEdge dan NVIDIA

Dell NativeEdge adalah mesin orkestrasiedge pertama yang mengotomatisasi distribusi perangkat lunak NVIDIA AI Enterprise3, untuk membantu pengembang aplikasi dan operator TI menerapkan aplikasi dan solusi AI di edgedengan mudah. Perusahaan, mulai dari produsen hingga penjual ritel, dapat dengan cepat dan akurat menganalisadata edge mereka menggunakan desainpenerapan Dell NativeEdge baru yang sudah termasuk analisis video NVIDIA Metropolis, kemampuan lisan dan terjemahan NVIDIA Riva, serta layanan mikro inferensi NVIDIA NIM.

    Mempermudah pengembangan dan penerapan aplikasi AI untuk time to value yang lebih cepat

Solusi AI Generatif Dell untuk Asisten Digital baru akan membantumempercepat penerapan asisten digital yang menghadirkan pengalaman layanan mandiri yang dipersonalisasi bagi pelanggan menggunakan solusi full-stackDell dan NVIDIA. Layanan Implementasi untuk Asisten Digital dapat membantu organisasi merancang, merencanakan, menerapkan, menguji, dan memperbesar cakupan solusi full-stack tersebut.

Solusi Dell AI Factory dengan NVIDIAdapat membantu organisasi dengan cepat membangun lingkungan AI mereka untukberbagai contoh kasus penggunaanberkat otomatisasi penerapan full stackyang dirancang bersama dengan NVIDIA. Kemampuan otomatisasi full stack dapat memangkas time to value hingga 86% dibandingkan mengerjakannya satu persatu.4 Bahkan, Ketika dikombinasikan dengan layanan mikro inferensi NVIDIA NIM, waktu total yang dibutuhkan mulai dari penyediaan hingga pelaksanaan pekerjaan inferensi akan jauh lebih cepat lagi. Layanan mikro inferensi NIM menyediakan mesin inferensi yang telah dioptimisasi dan siap berproduksi bagi pengembang enterprise untuk model-model AI populer yang disediakan NVIDIA dan ekosistem mitranya.

Layanan akselerator Dell untuk RAG di Workstation Precision AI dapatmempersingkat siklus pengembangan AI dan lebih cepat menghasilkan aplikasi AIdengan kinerja yang lebih baikmenggunakan large language modelkhusus RAG di workstation Dell Precision dengan NVIDOA AI Workbench, sebuah platform pengembangan untuk melakukan percobaan, pengujian dan membuat prototipe proyek AI dan ML dalam sebuahlingkungan yang lebih aman.

Dikatakan Chief Analyst, theCUBE Research, Dave Vellante, penelitian kami menunjukkan bahwaorganisasi-organisasi membutuhkan sistem TI yang lebih mudah, tapi mereka sulit mewujudkannya. Teknologi AI, meski bisa mempermudah, juga memiliki kompleksitas tersendiri termasuk pilihan, kualitas data, konsistensi, dan keamanan. Jika sebuah organisasi memiliki solusi lengkap yang terbukti dapat membantu membangun infrastruktur, perangkat lunak, dan layanan yang dibutuhkan untuk mewujudkan nilai AI, maka organisasi tersebut akan bisa mengurangi risiko dan menghemat biaya.

“Kemampuan end-to-end Dell adalah faktor pembeda utama yang kami percaya juga akan ada dalam solusi AI mereka Dell AI Factory dengan NVIDIA adalah contoh nyata bagaimana sebuah solusi AI dirancang untuk mempermudah adopsi beban kerja AI yang terus berkembang,” ujarnya. (mas)

Artikel Terkait
Rekomendasi
Berita Pilihan
More Stories
Data Center Service Provider of the year