]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-webgpu: makes the flash attn vec path subgroup-aware (llama/23040)
authorZheyuan Chen <redacted>
Thu, 14 May 2026 16:31:36 +0000 (09:31 -0700)
committerGeorgi Gerganov <redacted>
Mon, 25 May 2026 09:26:07 +0000 (12:26 +0300)
commit13133ab299e94a413fed015841a424adec149b1c
tree8f59738ecac5098acbd8358c74f30fd9116b6d6e
parent592a8cd15d028f8d9a709e777641a9736a213565
ggml-webgpu: makes the flash attn vec path subgroup-aware (llama/23040)

* ggml-webgpu: makes the flash attn vec path compile and size its split/reduce work from the device’s reported subgroup range instead of assuming 32 subgroup size.

* ggml-webgpu: remove the extra max_wg_size >= max_subgroup_size guard. Remove hardcoded 32 when determine the value of reduce_wg_size and vec_nwg_cap
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp