Qualcomm Hadirkan Pengoperasian Model AI Meta Llama 3 di Perangkat yang Ditenagai Snapdragon
JAKARTA – baliprawara.com
Pengoperasian secara langsung large language models (LLMs), pada model AI Meta Llama 3 di smartphone, PC, VR/AR, kendaraan, dan perangkat lain, mulai dioptimalkan Qualcomm Technologies, Inc. yang berkolaborasi dengan Meta.
Menurut Senior Vice President and General Manager of Technology, Qualcomm Technologies, Inc., Durga Malladi, kemampuan ini menawarkan berbagai keuntungan yang signifikan. Termasuk juga keunggulan respon perangkat, privasi yang ditingkatkan, keandalan yang lebih baik, dan pengalaman yang lebih terpersonalisasi bagi pengguna.
“Kami menyambut baik keterbukaan Meta dengan model AI Meta Llama 3, dimana kami memiliki komitmen yang sejalan untuk memberdayakan para developer dan mendorong inovasi AI yang berkelanjutan,” kata Durga Malladi, melalui keterangan tertulisnya, Kamis 25 April 2024.
Kepemimpinan dalam sektor AI on-device, dengan jangkauan inovasi teknologi yang luas, menempatkan Qualcomm dalam pengembangan manfaat ekosistem Llama di seluruh dunia. Selain itu, juga memungkinkan para pelanggan, mitra, dan developer untuk menciptakan pengalaman AI inovatif generasi baru.
Kolaborasi Qualcomm dan Meta bertujuan mendemokratisasi kemampuan AI generatif dengan mendorong peran OEM dan developer dalam membuat model AI Llama 3 sehingga dapat diakses langsung dari perangkat yang ditenagai oleh berbagai platform flagship Snapdragon. Adapun pemanfaatan rancangan komputasi heterogen yang kuat dari Qualcomm Technologies, yang mencakup fungsi andal pada CPU, GPU, dan NPU terdepan dari perusahaan, telah berkembang dengan sangat baik bersama desain memori mutakhir dalam memberdayakan pelanggan, mitra, dan developer untuk memaksimalkan kinerja aplikasi, efisiensi suhu, dan masa pakai baterai.
Selanjutnya, para developer bisa mengakses berbagai sumber daya untuk menjalankan model AI Llama 3 secara optimal pada platform Snapdragon melalui Qualcomm® AI Hub, yang saat ini menawarkan sekitar 100 model AI yang dioptimalkan. Qualcomm AI Hub sendiri telah berhasil mengurangi jarak waktu pengembangan hingga rilis (time-to-market) bagi para developer seraya mendukung perluasan pemanfaatan AI pada perangkat untuk aplikasi-aplikasi yang mereka buat. Untuk mendapatkan informasi lebih lanjut tentang inovasi terkait, silakan berlangganan monthly developer newsletter Qualcomm.
Qualcomm Technologies dan Meta berkomitmen mendorong inovasi dan menghadirkan pengalaman AI generasi berikutnya. Upaya ini menjadi tonggak penting dalam kolaborasi kedua belah pihak seraya menunjukkan dedikasi mereka dalam memberdayakan para developer dan users dengan kemampuan AI yang bertenaga. (MBP)
