]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-webgpu: compute pass batching and removing profiling overhead (llama/21873)
authorReese Levine <redacted>
Thu, 16 Apr 2026 08:12:19 +0000 (01:12 -0700)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:29:10 +0000 (11:29 +0300)
commit092330b474ed34f80ed854ae7b64034a94a6f79a
tree0a892c8fc34d0941125a801e46f2918d0f35c57c
parentf62bb133207f47e9975dfb511b119a304f23622d
ggml-webgpu: compute pass batching and removing profiling overhead (llama/21873)

* Update register tiling matmul to use f32 accumulation

* fix profiling code

* Fix register tiling matmul for chrome, i'm blaming dawn

* Update batch tuning value for iOS

* compile fix

* Fix use of new load function

* Move to a single query set for GPU profiling

* Move to batching compute passes when not profiling

* Refactor build_multi

* remove iOS throttling now that we're batching compute passes
ggml/src/ggml-webgpu/ggml-webgpu.cpp