]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-webgpu: compute pass batching and removing profiling overhead (#21873)
authorReese Levine <redacted>
Thu, 16 Apr 2026 08:12:19 +0000 (01:12 -0700)
committerGitHub <redacted>
Thu, 16 Apr 2026 08:12:19 +0000 (11:12 +0300)
commit82677a6ede7927d2286ef1c9e481ce4caf52866f
treed66e3d06802dbb1ec0f4158cf2bdb2b95a361f73
parent8612ed18b7d2896009f255c11eb002aa7bfa9057
ggml-webgpu: compute pass batching and removing profiling overhead (#21873)

* Update register tiling matmul to use f32 accumulation

* fix profiling code

* Fix register tiling matmul for chrome, i'm blaming dawn

* Update batch tuning value for iOS

* compile fix

* Fix use of new load function

* Move to a single query set for GPU profiling

* Move to batching compute passes when not profiling

* Refactor build_multi

* remove iOS throttling now that we're batching compute passes
ggml/src/ggml-webgpu/ggml-webgpu.cpp