]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-zendnn : add MUL_MAT_ID op support for MoE models (llama/21315)
authorVishal Singh <redacted>
Fri, 3 Apr 2026 09:19:08 +0000 (14:49 +0530)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:29:00 +0000 (11:29 +0300)
commit3f5117610b9053b1a7a7f9db66181645063ce4cf
treeede8b033c87c3f7a3dc7ebe0329738a4cf50298c
parent321f62823902b890bc1eb5594f937e853c6afc3b
ggml-zendnn : add MUL_MAT_ID op support for MoE models (llama/21315)

* ggml-zendnn : add MUL_MAT_ID op support for MoE models
- Add MUL_MAT_ID op acceleration for Mixture-of-Experts models
- MUL_MAT_ID op fallback to CPU backend if total experts > 32
- Point ZenDNN lib to latest bits ZenDNN-2026-WW13

* ggml-zendnn : add braces to sgemm failure condition for consistency

Co-authored-by: Aaron Teo <redacted>
---------

Co-authored-by: Aaron Teo <redacted>
ggml/src/ggml-zendnn/CMakeLists.txt
ggml/src/ggml-zendnn/ggml-zendnn.cpp