]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
vulkan : support ggml_mean (llama/15393)
authorAcly <redacted>
Sat, 23 Aug 2025 06:35:21 +0000 (08:35 +0200)
committerGeorgi Gerganov <redacted>
Sat, 20 Sep 2025 10:42:40 +0000 (13:42 +0300)
commit5094171c37906a7176d5d00f3e19906559e07008
treed3d152784d2fd899a2435fdb6c9917fb5add2829
parent485c5c3b3b18048f6dde5e3f6797dfbc4e53cd98
vulkan : support ggml_mean (llama/15393)

* vulkan : support ggml_mean

* vulkan : support sum, sum_rows and mean with non-contiguous tensors

* vulkan : fix subbuffer size not accounting for misalign offset

* tests : add backend-op tests for non-contiguous sum_rows

* cuda : require contiguous src for SUM_ROWS, MEAN support
* sycl : require contiguous src for SUM, SUM_ROWS, ARGSORT support

* require ggml_contiguous_rows in supports_op and expect nb00=1 in the shader
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-vulkan/ggml-vulkan.cpp
ggml/src/ggml-vulkan/vulkan-shaders/sum_rows.comp