]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
vulkan : support ggml_mean (llama/15393)
authorAcly <redacted>
Sat, 23 Aug 2025 06:35:21 +0000 (08:35 +0200)
committerGeorgi Gerganov <redacted>
Fri, 5 Sep 2025 09:54:02 +0000 (12:54 +0300)
commit62e8d534c5b7987c5afaa91853af3e8288a33ad6
treeb02841df5efc74d229037bc308b070288f99dd31
parentb238604c3949144794cebc9fe980388a5197e01e
vulkan : support ggml_mean (llama/15393)

* vulkan : support ggml_mean

* vulkan : support sum, sum_rows and mean with non-contiguous tensors

* vulkan : fix subbuffer size not accounting for misalign offset

* tests : add backend-op tests for non-contiguous sum_rows

* cuda : require contiguous src for SUM_ROWS, MEAN support
* sycl : require contiguous src for SUM, SUM_ROWS, ARGSORT support

* require ggml_contiguous_rows in supports_op and expect nb00=1 in the shader
src/ggml-cuda/ggml-cuda.cu
src/ggml-sycl/ggml-sycl.cpp
src/ggml-vulkan/ggml-vulkan.cpp
src/ggml-vulkan/vulkan-shaders/sum_rows.comp
tests/test-backend-ops.cpp