]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-webgpu: move from parameter buffer pool to single buffer with offsets (#21278)
authorReese Levine <redacted>
Fri, 3 Apr 2026 18:40:14 +0000 (11:40 -0700)
committerGitHub <redacted>
Fri, 3 Apr 2026 18:40:14 +0000 (11:40 -0700)
commitd006858316d4650bb4da0c6923294ccd741caefd
treed02b284b1e75b57fc197cb120230d224ea2decaf
parente43970099269b5b6da36b8977ad47697602e4e54
ggml-webgpu: move from parameter buffer pool to single buffer with offsets (#21278)

* Work towards removing bitcast

* Move rest of existing types over

* Add timeout back to wait and remove synchronous set_tensor/memset_tensor

* move to unpackf16 for wider compatibility

* cleanup

* Remove deadlock condition in free_bufs

* Start work on removing parameter buffer pools

* Simplify and optimize further

* simplify profile futures

* Fix stride

* Try using a single command buffer per batch

* formatting
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp