]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-webgpu: address precision issues for multimodal (#22808)
authorChen Yuan <redacted>
Tue, 12 May 2026 14:27:04 +0000 (10:27 -0400)
committerGitHub <redacted>
Tue, 12 May 2026 14:27:04 +0000 (07:27 -0700)
commit239a497e5f6a19dffcad4d4e601d66b1a8e51895
tree7be97644fd740e83ed66d71209f1ac1d99ea96b9
parent89730c8d264c743a51035fcfdc5f63ca0599492e
ggml-webgpu: address precision issues for multimodal  (#22808)

* fix(mixed-types): use f32 for precision and update the shared memory calculation logic for f32

* fix(unary): correct the gelu, gelu quick and gelu erf functions

* fix(flash-attn-tile): fix the hardcode v type

* fix(flash_attn): fix tile path

* fix: pass editorconfig and address the type conflicts

* fix: remove reduant pipeline keys

* fix: remove inline min/max group size functions and revert the flash attn path order

* fix: use clamp to avoid NaN for GELU

* fix: use the right range for exp, 80 is safer for f32 exp
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp
ggml/src/ggml-webgpu/wgsl-shaders/flash_attn_tile.wgsl
ggml/src/ggml-webgpu/wgsl-shaders/flash_attn_vec_reduce.wgsl
ggml/src/ggml-webgpu/wgsl-shaders/flash_attn_vec_split.wgsl
ggml/src/ggml-webgpu/wgsl-shaders/unary.wgsl