]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
vulkan: vec dot matrix multiplication fix (llama/16151)
authorRuben Ortlam <redacted>
Mon, 22 Sep 2025 05:22:43 +0000 (07:22 +0200)
committerGeorgi Gerganov <redacted>
Mon, 29 Sep 2025 12:18:08 +0000 (15:18 +0300)
commit95b29fab78775e428ba6f3c4d77c4734ad9e3933
tree54c31e6c3ab0e0102f481a65086ac3d8476b1de5
parent4b7f09ac0be1256417a6c0c72b4224dc98143278
vulkan: vec dot matrix multiplication fix (llama/16151)

* vulkan: fix matrix multiplication index calculation for odd m/n and odd k in combination with batching

* add odd m/n + odd k test with batching
ggml/src/ggml-vulkan/vulkan-shaders/mul_mm.comp
ggml/src/ggml-vulkan/vulkan-shaders/mul_mm_funcs.comp
ggml/src/ggml-vulkan/vulkan-shaders/vulkan-shaders-gen.cpp