]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml : fix FA mask dim 2 and 3 (#14505)
authorGeorgi Gerganov <redacted>
Thu, 3 Jul 2025 07:46:57 +0000 (10:46 +0300)
committerGitHub <redacted>
Thu, 3 Jul 2025 07:46:57 +0000 (10:46 +0300)
commit9067487c4411efb20400103fcccfdd389c80d428
tree031a341b91ad6e257abb20340c201a9753a4fb47
parentd4cdd9c1c3cebdafca735958597de4ff7b7c0f54
ggml : fix FA mask dim 2 and 3 (#14505)

* ggml : fix FA mask dim 2 and 3

ggml-ci

* backends : unsupport batched FA in CUDA and Vulkan

ggml-ci

* vulkan : disable FA for mask->ne[2] != 1
ggml/include/ggml.h
ggml/src/ggml-cpu/ops.cpp
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal.m
ggml/src/ggml-metal/ggml-metal.metal
ggml/src/ggml-vulkan/ggml-vulkan.cpp
ggml/src/ggml.c
tests/test-backend-ops.cpp