]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
metal : batch rows copy in a single threadgroup (#14384)
authorGeorgi Gerganov <redacted>
Thu, 26 Jun 2025 12:50:15 +0000 (15:50 +0300)
committerGitHub <redacted>
Thu, 26 Jun 2025 12:50:15 +0000 (15:50 +0300)
commit5783ae43599400b723b5da0569c1f848419ff3c7
treec2e4c69cf9e782fc1751fff9e6d25414d0653231
parentbf5bcd0b857db420235e03639f0a5f218a7f8cf8
metal : batch rows copy in a single threadgroup (#14384)

* metal : batch rows copy in a single threadgroup

ggml-ci

* metal : handle some edge cases when threadgroup size is not a power of 2

ggml-ci
ggml/src/ggml-metal/ggml-metal.m
ggml/src/ggml-metal/ggml-metal.metal