]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : fix FA mask dim 2 and 3 (llama/14505)
authorGeorgi Gerganov <redacted>
Thu, 3 Jul 2025 07:46:57 +0000 (10:46 +0300)
committerGeorgi Gerganov <redacted>
Sat, 12 Jul 2025 16:23:56 +0000 (19:23 +0300)
commit0abd0660e14b828b31cf05da1f364c7474f03287
tree2a3a499db28fc703fbb753736790cdaa97399441
parent9cde908c0a50d530b5e4fb4d7a06ae69bfc62294
ggml : fix FA mask dim 2 and 3 (llama/14505)

* ggml : fix FA mask dim 2 and 3

ggml-ci

* backends : unsupport batched FA in CUDA and Vulkan

ggml-ci

* vulkan : disable FA for mask->ne[2] != 1
ggml/include/ggml.h
ggml/src/ggml-cpu/ops.cpp
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal.m
ggml/src/ggml-metal/ggml-metal.metal
ggml/src/ggml-vulkan/ggml-vulkan.cpp
ggml/src/ggml.c