Qualcomm menyiapkan Hexagon NPU generasi baru untuk mendukung AI agentik pada Snapdragon 8 Elite Gen 6 Pro. Perusahaan menyebut rancangan ini ditujukan bagi AI yang berjalan terus-menerus, penalaran konteks panjang, model multimodal, dan agen yang aktif secara bersamaan.
Pengembangan tersebut juga mencakup kebutuhan respons cepat dalam siklus tindakan berlatensi rendah. Qualcomm menempatkan NPU baru sebagai fondasi pemrosesan AI yang semakin kompleks pada perangkat mobile.
Fokus pada Agen AI
AI agentik memerlukan pemrosesan yang dapat menangani konteks lebih luas, penggunaan alat lebih banyak, serta sejumlah tugas dalam waktu bersamaan. Qualcomm menyatakan peningkatan NPU dirancang agar agen dapat merespons lebih cepat dan menalar lebih efisien.
Penekanan pada agen bersamaan memperlihatkan kesiapan sistem untuk beban kerja dengan lebih dari satu agen aktif. Dukungan terhadap siklus tindakan berlatensi rendah ditujukan untuk proses AI yang membutuhkan respons berulang dalam waktu singkat.
Perusahaan juga menyatakan pengalaman AI yang lebih kaya dapat dihadirkan tanpa mengorbankan efisiensi daya perangkat mobile. Klaim ini menjadi bagian dari arah pengembangan Qualcomm untuk pemrosesan AI langsung di perangkat.
Shared Memory Naik Hingga 50%
Salah satu pembaruan utama adalah peningkatan shared memory hingga 50%. Ruang memori bersama yang lebih besar membantu menjaga data model yang sering digunakan tetap dekat dengan Hexagon NPU.
Kedekatan data dengan NPU penting ketika sistem memproses konteks panjang atau menjalankan beberapa tugas. Qualcomm menilai pengaturan tersebut dapat mengurangi hambatan akses memori yang berpotensi memperlambat respons agen AI.
Peningkatan memori ini menjadi pelengkap bagi kemampuan komputasi NPU baru. Tujuannya adalah menjaga responsivitas saat kebutuhan pemrosesan model dan jumlah tugas meningkat.
Element Accelerator untuk Transformer
Qualcomm memasukkan Element Accelerator sebagai komponen khusus untuk beban kerja transformer. Model transformer menjadi dasar bagi banyak model AI generatif dan agentik modern.
Komponen tersebut beroperasi bersama ekstensi scalar, vector, dan matrix pada NPU. Gabungan arsitektur ini ditujukan untuk mempercepat operasi penting yang dijalankan oleh model berukuran besar.
Qualcomm menyebut Element Accelerator sebagai komponen yang dibuat khusus untuk beban kerja transformer. Penjelasan ini menegaskan fokus arsitektur NPU pada jenis komputasi yang digunakan oleh model generatif dan agentik.
Prefill INT4 dan Model MoE
Hexagon NPU baru menawarkan prefill hingga 50% lebih cepat untuk model INT4, menurut Qualcomm. Prefill menjadi salah satu bagian pemrosesan model yang mendapat peningkatan pada generasi NPU ini.
NPU tersebut juga disebut sangat sesuai untuk model Mixture-of-Experts atau MoE. Pada model MoE, hanya sebagian parameter yang aktif untuk setiap token.
Qualcomm menyoroti dukungan MoE dalam konteks kebutuhan AI mobile yang kian rumit. Namun, perusahaan belum mengungkap keseluruhan kemampuan Snapdragon 8 Elite Gen 6 maupun Snapdragon 8 Elite Gen 6 Pro.
Qualcomm dijadwalkan memperkenalkan kedua SoC itu pada Snapdragon Summit tahunan, 22 September. Informasi yang telah dibagikan sejauh ini berpusat pada akselerasi transformer, shared memory, prefill INT4, dan dukungan MoE.
