]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-webgpu: makes the flash attn vec path subgroup-aware (#23040)
authorZheyuan Chen <redacted>
Thu, 14 May 2026 16:31:36 +0000 (09:31 -0700)
committerGitHub <redacted>
Thu, 14 May 2026 16:31:36 +0000 (09:31 -0700)
commit5ec717d1256e34558a44dc09adf1e6e16f2e2682
tree5719a84bbf94894259962932c75ead385fb8f15b
parent0c3e4fccca8aea028df37d39510e9df11d90c1b3
ggml-webgpu: makes the flash attn vec path subgroup-aware (#23040)

* ggml-webgpu: makes the flash attn vec path compile and size its split/reduce work from the device’s reported subgroup range instead of assuming 32 subgroup size.

* ggml-webgpu: remove the extra max_wg_size >= max_subgroup_size guard. Remove hardcoded 32 when determine the value of reduce_wg_size and vec_nwg_cap
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp