]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
metal : refactor kernel loading code (llama/4794)
authorGeorgi Gerganov <redacted>
Sat, 13 Jan 2024 16:03:45 +0000 (18:03 +0200)
committerGeorgi Gerganov <redacted>
Sat, 13 Jan 2024 22:11:44 +0000 (00:11 +0200)
commit396ebd1e80c7953e271371a771dc5249c4811813
tree9b31ab48be9bd68d8cfdaada128a1802c18a5e12
parent12490f4398f38e1b5ded7a5c01d035f41388c8f2
metal : refactor kernel loading code (llama/4794)

* metal : detect more GPU families

* metal : refactor kernel loading

* metal : set kernel family requirements

* metal : fix kernel init + fix compile options

* metal : take into account simdgroup reduction support

* metal : print only skipped kernels

* metal : fix check for simdgroup reduction support

* metal : check for Metal 3

* metal : free allocations

* metal : normalize encoder:setComputePipelineStatus calls

ggml-ci

* metal : fix Metal3 family check

ggml-ci

* metal : check for simdgroup matrix mul. feature

ggml-ci
ggml-metal.m