]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
Ggml/cuda snake fusion hardening (#22912)
authorPascal <redacted>
Mon, 11 May 2026 16:42:08 +0000 (18:42 +0200)
committerGitHub <redacted>
Mon, 11 May 2026 16:42:08 +0000 (18:42 +0200)
commite93666076038c0bd26397feed6cfb8a6c6d04f74
treecdb83016d40b96e896249817e49ea2d51b2d09d5
parentef22b3e4ac9444d1dca1c44164861e0317b5579d
Ggml/cuda snake fusion hardening (#22912)

* cuda: tighten snake fusion type checks for all operands (defensive, sync vulkan)

* cuda: reject snake fusion when ne[2] or ne[3] > 1 (mirror vulkan PR review)

* cuda: merge type_ok and types_ok into a single types_ok (address am17an review)

* cuda: filter ADD/SUB/MUL/DIV in supports_op to F32/F16

bin_bcast only dispatches F32/F16 type triplets, mirror the
vulkan filter so unsupported types fall back through cpy
instead of aborting.

* test-backend-ops: extend snake_fuse to rank-4 with ne[2]/ne[3] > 1 cases
ggml/src/ggml-cuda/ggml-cuda.cu
tests/test-backend-ops.cpp