]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml webgpu: quantized buffers to u32 + wider browser/device support (llama/21046)
authorReese Levine <redacted>
Wed, 1 Apr 2026 05:38:24 +0000 (22:38 -0700)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:28:58 +0000 (11:28 +0300)
commit78f54d15d80aded8a603e12fb066539acdb32f49
treea0834dc1c7265152bd9de34ea541b7190c23ba44
parent21b9dd6789eac3db4e152aca87c727874e2f0cf1
ggml webgpu: quantized buffers to u32 + wider browser/device support (llama/21046)

* Work towards removing bitcast

* Move rest of existing types over

* Add timeout back to wait and remove synchronous set_tensor/memset_tensor

* move to unpackf16 for wider compatibility

* cleanup

* Remove deadlock condition in free_bufs
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp
ggml/src/ggml-webgpu/wgsl-shaders/common_decls.tmpl
ggml/src/ggml-webgpu/wgsl-shaders/flash_attn.wgsl
ggml/src/ggml-webgpu/wgsl-shaders/mul_mat_decls.tmpl
ggml/src/ggml-webgpu/wgsl-shaders/mul_mat_vec.wgsl