Tingkatkan AI Generatif di perangkat komputasi Edge, MediaTek manfaatkan Meta Llama 2

JAKARTA (IndoTelko) - Perusahaan semikonduktor global terkemuka yang telah memperkuat lebih dari dua miliar perangkat komputasi yang terkoneksi internet setiap tahun, Mediatek mengumumkan kerja sama dengan teknologi kecerdasan buatan (AI) milik Meta Platform Inc, Llama 2. Teknologi ini merupakan model bahasa besar (Large Language Model/LLM) sumber terbuka generasi masa depan.

Memanfaatkan Meta LLM, APU terbaru MediaTek, dan platform AI NeuroPilot, MediaTek bertujuan untuk membangun ekosistem edge computing lengkap yang dirancang untuk mempercepat pengembangan aplikasi kecerdasan buatan (AI) pada ponsel pintar, IoT, kendaraan pintar, rumah pintar, dan perangkat komputasi edge lainnya.

Sebagian besar pemrosesan AI generatif dilakukan melalui edge computing, tapi model Llama 2 yang digunakan oleh MediaTek akan memungkinkan aplikasi AI generatif bisa beroperasi langsung di perangkat. Ini jelas memberikan beberapa keuntungan bagi para pengembang dan pengguna, antara lain performa lancar, privasi kuat, keamanan dan keandalan lebih baik, latensi lebih rendah, dan kemampuan untuk bekerja di area rendah konektivitas, serta biaya operasi lebih rendah.

Untuk benar-benar memanfaatkan teknologi AI generatif pada perangkat, produsen edge device perlu mengadopsi komputasi tinggi, prosesor AI berdaya rendah, dan konektivitas yang lebih cepat dan lebih andal untuk meningkatkan kemampuan komputasinya. Setiap System on Chip (SoC) pada ponsel pintar 5G yang ditenagai oleh MediaTek telah dilengkapi dengan APU yang dirancang untuk menjalankan berbagai fitur AI generatif, seperti AI Noise Reduction, AI Super Resolution, AI MEMC, dan lainnya.

Tak hanya itu, cipset unggulan MediaTek generasi berikutnya, yang diperkenalkan akhir tahun ini, akan menghadirkan perangkat lunak yang dioptimalkan untuk menjalankan Llama 2, serta APU yang ditingkatkan dengan akselerasi inti Transformer, pengurangan area akses dan penggunaan bandwidth DRAM yang semakin meningkatkan kinerja LLM dan AIGC. Kemajuan ini untuk memfasilitasi percepatan penggunaan AI generatif di perangkat.

Menurut Corporate Senior Vice President and General Manager of Wireless Communications Business Unit di MediaTek, JC Hsu, meningkatnya popularitas AI generatif merupakan tren signifikan dalam transformasi digital, dan visi nyaadalah menyediakan komunitas pengembang dan pengguna Llama 2 dengan alat yang diperlukan untuk berinovasi sepenuhnya di ruang AI.

"Melalui kemitraan kami dengan Meta, kami dapat menghadirkan perangkat keras dan perangkat lunak dengan kemampuan yang jauh lebih canggih dibandingkan sebelumnya," ujarnya.

MediaTek menargetkan aplikasi AI berbasis Llama 2 tersedia untuk ponsel pintar yang ditenagai oleh SoCandalan generasi berikutnya memasuki pasar pada akhir tahun ini. (mas)