]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
vulkan : support ggml_mean (#15393)
authorAcly <redacted>
Sat, 23 Aug 2025 06:35:21 +0000 (08:35 +0200)
committerGitHub <redacted>
Sat, 23 Aug 2025 06:35:21 +0000 (08:35 +0200)
commit0a9b43e507a359ca392c037cf341f55137ad0b69
tree80c2f7a6ffba4d8223d328157021eb63f8271264
parent330c3d2d21b55bca5517db7d2eea2ea8f131df4a
vulkan : support ggml_mean (#15393)

* vulkan : support ggml_mean

* vulkan : support sum, sum_rows and mean with non-contiguous tensors

* vulkan : fix subbuffer size not accounting for misalign offset

* tests : add backend-op tests for non-contiguous sum_rows

* cuda : require contiguous src for SUM_ROWS, MEAN support
* sycl : require contiguous src for SUM, SUM_ROWS, ARGSORT support

* require ggml_contiguous_rows in supports_op and expect nb00=1 in the shader
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-vulkan/ggml-vulkan.cpp
ggml/src/ggml-vulkan/vulkan-shaders/sum_rows.comp
tests/test-backend-ops.cpp