]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-webgpu: Add fused RMS_NORM + MUL (llama/21983)
authorMasashi Yoshimura <redacted>
Wed, 22 Apr 2026 17:51:40 +0000 (02:51 +0900)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:29:16 +0000 (11:29 +0300)
commit0fbe4c4ca7a4c42c217a8f2ada04677c33a20b2c
tree8ad1f6002ede267a51e50a417409c9c1b224bb70
parentc5bb7c0078d94cbf6f85caa5a7bc19cf310d846f
ggml-webgpu: Add fused RMS_NORM + MUL (llama/21983)

* fused rms_norm_mul + mul

* Add GGML_WEBGPU_DISABLE_FUSION for being able to disable kernel fusion.

* Decouple num_fused_ops from webgpu_context; misc cleanup

* Fix eps handling and remove disable_fusion.

* Fix not to use c++20 initializers.
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp
ggml/src/ggml-webgpu/wgsl-shaders/rms_norm_mul.wgsl [new file with mode: 0644]