CYBER WATCH / EQUINOXE INTELLIGENCE

← Tous les articles

b12069 : opencl : ajout du support initial de iq4_xs (#31339)

llama.cpp Releases · 2026-11-03 14:00:41

Cette mise à jour introduit le support initial du format de quantification iq4_xs dans OpenCL. Elle ajoute plusieurs optimisations et kernels pour les GPU Adreno, notamment des opérations matrice‑vecteur en AOS et SOA, la multiplication matricielle en mode tiled, des GEMM/GEMV sans mélange, le support DP4A et des optimisations de décodage et de traitement de lots réduits.

Consulter la source ↗