]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
ggml webgpu: actually add softmax, fix rms_norm offset (llama/16400)
authorReese Levine <redacted>
Sun, 5 Oct 2025 03:59:31 +0000 (20:59 -0700)
committerGeorgi Gerganov <redacted>
Sun, 12 Oct 2025 04:57:25 +0000 (07:57 +0300)
commit61b477aa94ed0c57702bff880e78db75b3e0c0fb
tree2492ae42bfffe415f0983e997b2d337c1706d8a0
parent86912ac92be5a6d849203e8f193c29835ba9ff83
ggml webgpu: actually add softmax, fix rms_norm offset (llama/16400)

* implement soft_max

* Fix soft_max data race

* Temporary fix, wait on each submit
src/ggml-webgpu/ggml-webgpu.cpp
src/ggml-webgpu/wgsl-shaders/rms_norm.wgsl
src/ggml-webgpu/wgsl-shaders/soft_max.tmpl.wgsl