]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
metal : initial Metal4 tensor API support (llama/16634)
authorGeorgi Gerganov <redacted>
Thu, 6 Nov 2025 12:45:10 +0000 (14:45 +0200)
committerGeorgi Gerganov <redacted>
Sun, 9 Nov 2025 16:30:22 +0000 (18:30 +0200)
commit7f26d40d5481ef7f38a1941a4d8c849749bdf900
treed4aaaadfc54ea6172d02a4da86857bf3ce27b119
parent648cd819e8e1ce4fa887868b1f88e1253dd8511b
metal : initial Metal4 tensor API support (llama/16634)

* metal : rework mat-mat multiplication

* metal : initial Metal4 support

* cont

* metal : detect tensor support

* cont : better ifdefs

* metal : support tensors in mul_mm_id

* metal : add env for disabling tensor API

* tests : restore

* metal : remove unused constants

* metal : fix check for bfloat tensor support

* cont : handle API incompatibilities

* cont : handle even more incompatibilities

* metal : use tensor API only on M5 and later
src/ggml-metal/ggml-metal-context.m
src/ggml-metal/ggml-metal-device.h
src/ggml-metal/ggml-metal-device.m
src/ggml-metal/ggml-metal.metal