]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-webgpu: move from parameter buffer pool to single buffer with offsets (llama...
authorReese Levine <redacted>
Fri, 3 Apr 2026 18:40:14 +0000 (11:40 -0700)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:29:01 +0000 (11:29 +0300)
commitd6cfdc669cad5faa0171011b57df3ed7c1ed4911
tree0b2e37a54f6b92a3d34767baedf3f7ee803a6873
parent3f5117610b9053b1a7a7f9db66181645063ce4cf
ggml-webgpu: move from parameter buffer pool to single buffer with offsets (llama/21278)

* Work towards removing bitcast

* Move rest of existing types over

* Add timeout back to wait and remove synchronous set_tensor/memset_tensor

* move to unpackf16 for wider compatibility

* cleanup

* Remove deadlock condition in free_bufs

* Start work on removing parameter buffer pools

* Simplify and optimize further

* simplify profile futures

* Fix stride

* Try using a single command buffer per batch

* formatting
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp