]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
ggml : fix FA mask dim 2 and 3 (llama/14505)
authorGeorgi Gerganov <redacted>
Thu, 3 Jul 2025 07:46:57 +0000 (10:46 +0300)
committerGeorgi Gerganov <redacted>
Sat, 12 Jul 2025 13:05:00 +0000 (16:05 +0300)
commit0623ef331bec12c50e4eeabe5de0d3a2a368a398
tree0374b233d525b6f50d7447d508964543926aa624
parente9a958c8756347e320e1c5e4ab9960e99a89511c
ggml : fix FA mask dim 2 and 3 (llama/14505)

* ggml : fix FA mask dim 2 and 3

ggml-ci

* backends : unsupport batched FA in CUDA and Vulkan

ggml-ci

* vulkan : disable FA for mask->ne[2] != 1
include/ggml.h
src/ggml-cpu/ops.cpp
src/ggml-cuda/ggml-cuda.cu
src/ggml-metal/ggml-metal-impl.h
src/ggml-metal/ggml-metal.m
src/ggml-metal/ggml-metal.metal
src/ggml-vulkan/ggml-vulkan.cpp
src/ggml.c
tests/test-backend-ops.cpp