]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
Ggml/cuda snake fusion hardening (llama/22912)
authorPascal <redacted>
Mon, 11 May 2026 16:42:08 +0000 (18:42 +0200)
committerGeorgi Gerganov <redacted>
Thu, 14 May 2026 18:26:48 +0000 (21:26 +0300)
commit449b33fc8f6aadf267e3b577622deae45c81ea0c
treee38608f9aed357200e98b8a470fc52c8752655e2
parentc0c1f994b711114e907ac3250605b7542d7d19ec
Ggml/cuda snake fusion hardening (llama/22912)

* cuda: tighten snake fusion type checks for all operands (defensive, sync vulkan)

* cuda: reject snake fusion when ne[2] or ne[3] > 1 (mirror vulkan PR review)

* cuda: merge type_ok and types_ok into a single types_ok (address am17an review)

* cuda: filter ADD/SUB/MUL/DIV in supports_op to F32/F16

bin_bcast only dispatches F32/F16 type triplets, mirror the
vulkan filter so unsupported types fall back through cpy
instead of aborting.

* test-backend-ops: extend snake_fuse to rank-4 with ne[2]/ne[3] > 1 cases
ggml/src/ggml-cuda/ggml-cuda.cu