]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
metal : add opt_step_adamw and op_sum (#16529)
authorSam/Samuel <redacted>
Sun, 12 Oct 2025 18:43:14 +0000 (02:43 +0800)
committerGitHub <redacted>
Sun, 12 Oct 2025 18:43:14 +0000 (21:43 +0300)
commita31cf36ad946a13b3a646bf0dadf2a481e89f944
tree968f0a6079c41ba62776e702e1a2ae9cca69e46d
parent81d54bbfd599811b354c39f04550888168be7780
metal : add opt_step_adamw and op_sum (#16529)

* scaffold to support opt step adamw on metal (not written so far)

* add opt-step-adamw kernel for metal

* pass op->src[4] as a separate buffer to the pipeline

* add bounds check to opt-step-adamw kernel

* complete scaffold for GGML_OP_SUM

* naive GGML_OP_SUM kernel

* remove unwanted comment

* change OP_SUM capability gate

* Add has_simdgroup_reduction to both ops to pass CI
ggml/src/ggml-metal/ggml-metal-device.cpp
ggml/src/ggml-metal/ggml-metal-device.h
ggml/src/ggml-metal/ggml-metal-device.m
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal-ops.cpp
ggml/src/ggml-metal/ggml-metal-ops.h
ggml/src/ggml-metal/ggml-metal.metal