]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-webgpu: add q4_0/q8_0 SET_ROWS (llama/23760)
authorReese Levine <redacted>
Fri, 29 May 2026 21:14:11 +0000 (14:14 -0700)
committerGeorgi Gerganov <redacted>
Mon, 8 Jun 2026 11:36:36 +0000 (14:36 +0300)
commitacd91d2c3891ac8f2538152882552657691ed6af
treeab96e6f9fb206bbcacb76e5e1f7b6de62bc95d36
parentf7aad4ed7e6818cebdbe87fd78a28f02f6cefedb
ggml-webgpu: add q4_0/q8_0 SET_ROWS (llama/23760)

* Add q8_0 and q4_0 set_rows

* Add fast(er) quantization set_rows path

* formatting/naming

* a little more naming

* Remove unused constant

* Don't override other override

* Avoid bitcast

* Narrow relaxation
ggml/src/ggml-webgpu/ggml-webgpu-shader-lib.hpp
ggml/src/ggml-webgpu/ggml-webgpu.cpp
ggml/src/ggml-webgpu/wgsl-shaders/set_rows.wgsl
ggml/src/ggml-webgpu/wgsl-shaders/set_rows_quant.wgsl [new file with mode: 0644]