]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
metal : initial Metal4 tensor API support (#16634)
authorGeorgi Gerganov <redacted>
Thu, 6 Nov 2025 12:45:10 +0000 (14:45 +0200)
committerGitHub <redacted>
Thu, 6 Nov 2025 12:45:10 +0000 (14:45 +0200)
commit5b180c3d60f3df61cd9955bc5c69e64537958f92
tree31fd6f6358accbe8cf348d47e1eb4c5a32318e7f
parentb7f9010d24766792d8887c227a883ed3b315d2be
metal : initial Metal4 tensor API support (#16634)

* metal : rework mat-mat multiplication

* metal : initial Metal4 support

* cont

* metal : detect tensor support

* cont : better ifdefs

* metal : support tensors in mul_mm_id

* metal : add env for disabling tensor API

* tests : restore

* metal : remove unused constants

* metal : fix check for bfloat tensor support

* cont : handle API incompatibilities

* cont : handle even more incompatibilities

* metal : use tensor API only on M5 and later
ggml/src/ggml-metal/ggml-metal-context.m
ggml/src/ggml-metal/ggml-metal-device.h
ggml/src/ggml-metal/ggml-metal-device.m
ggml/src/ggml-metal/ggml-metal.metal