]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
metal : mark FA blocks (#16372)
authorGeorgi Gerganov <redacted>
Wed, 8 Oct 2025 07:57:53 +0000 (10:57 +0300)
committerGitHub <redacted>
Wed, 8 Oct 2025 07:57:53 +0000 (10:57 +0300)
commitb2c08c9ec4cd59ed88c1ebdd94f109af5ccc978e
tree9ac45351b126bd0c6ad03241bc89dbdbc05b72f8
parent7fdd16b432d247121fe5fe7b21f8805f85266c85
metal : mark FA blocks (#16372)

* metal : better unroll in the FA kernels

* metal : index FA blocks

* tests : restore [no ci]

* metal : prevent division by zero in FA kernels

* metal : fix -INF detection logic
ggml/src/ggml-metal/ggml-metal-device.cpp
ggml/src/ggml-metal/ggml-metal-device.h
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal-ops.cpp
ggml/src/ggml-metal/ggml-metal-ops.h
ggml/src/ggml-metal/ggml-metal.cpp
ggml/src/ggml-metal/ggml-metal.metal