]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
metal : batch rows copy in a single threadgroup (llama/14384)
authorGeorgi Gerganov <redacted>
Thu, 26 Jun 2025 12:50:15 +0000 (15:50 +0300)
committerGeorgi Gerganov <redacted>
Tue, 1 Jul 2025 08:52:14 +0000 (11:52 +0300)
commit3f8162a29d0a3280b046eda46d21c7ed81de2416
tree58bd53ad29999cb8fec53bd480713d2427cea886
parentb6f944cbddf3352fc21673fb43b832f537ee2170
metal : batch rows copy in a single threadgroup (llama/14384)

* metal : batch rows copy in a single threadgroup

ggml-ci

* metal : handle some edge cases when threadgroup size is not a power of 2

ggml-ci
src/ggml-metal/ggml-metal.m
src/ggml-metal/ggml-metal.metal