]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
metal : mark FA blocks (llama/16372)
authorGeorgi Gerganov <redacted>
Wed, 8 Oct 2025 07:57:53 +0000 (10:57 +0300)
committerGeorgi Gerganov <redacted>
Sun, 12 Oct 2025 04:57:25 +0000 (07:57 +0300)
commitf92101cfeed25b2bc53d05123eaeb7d10a737a01
treee7c3b70ebc90e4be1a36374b0f9a4d386edecb59
parent368b5d9fe8043c233c4802d112acbab7ff6f70e2
metal : mark FA blocks (llama/16372)

* metal : better unroll in the FA kernels

* metal : index FA blocks

* tests : restore [no ci]

* metal : prevent division by zero in FA kernels

* metal : fix -INF detection logic
src/ggml-metal/ggml-metal-device.cpp
src/ggml-metal/ggml-metal-device.h
src/ggml-metal/ggml-metal-impl.h
src/ggml-metal/ggml-metal-ops.cpp
src/ggml-metal/ggml-metal-ops.h
src/ggml-metal/ggml-metal.cpp
src/ggml-metal/ggml-metal.metal