]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
metal : refactor mat-vec code (#12569)
authorGeorgi Gerganov <redacted>
Wed, 26 Mar 2025 19:38:38 +0000 (21:38 +0200)
committerGitHub <redacted>
Wed, 26 Mar 2025 19:38:38 +0000 (21:38 +0200)
commitb3298fa47a2d56ae892127ea038942ab1cada190
treea66a2435e6c3af9673b1464b7ac250a91c5565f9
parent2447ad8a981253a2b8e9f4b31cc8e7fdff83423e
metal : refactor mat-vec code (#12569)

* metal : refactor mat-vec code

ggml-ci

* metal : rename all_sum -> sum_all

ggml-ci

* metal : fix comments [no ci]

* metal : fix nr constant [no ci]

* metal : mv q6_K support nr0 > 1

ggml-ci

* metal : reduce register pressure

ggml-ci

* metal : fix typo [no ci]

* metal : reduce register pressure

ggml-ci
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal.m
ggml/src/ggml-metal/ggml-metal.metal