CYBER WATCH / EQUINOXE INTELLIGENCE

← Tous les articles

b12433 : cuda : correction de l'abort MUL_MAT_ID avec des colonnes src0 impaires sur AMD (#32385)

llama.cpp Releases · 2026-11-17 10:01:12

Sur les appareils AMD, l'opération MUL_MAT_ID avec des matrices src0 de type F32, F16 ou BF16 et jusqu'à 8 jetons utilisait toujours MMVF. MMVF lit src0 par paires et exige un nombre pair de colonnes (ne[0]), ce qui provoquait un abort lorsqu'un LoRA de rang 1 sur les poids MoE (lora_b avec ne[0] = 1) était appliqué. La correction consiste à n'utiliser MMVF que pour les formes à ne[0] pair ; les autres formes utilisent le fallback existant. Cette modification corrige le problème #30576.

Consulter la source ↗