]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
metal : add opt_step_adamw and op_sum (llama/16529)
authorSam/Samuel <redacted>
Sun, 12 Oct 2025 18:43:14 +0000 (02:43 +0800)
committerGeorgi Gerganov <redacted>
Tue, 14 Oct 2025 19:07:44 +0000 (22:07 +0300)
commitce6e766c4cd29c48d246c7828f4245841d69d10b
treeef737aa81cd979b287632965703ea57d57c74e44
parent43270671aed2420fbfcb50696e99e10d9b0bc8b3
metal : add opt_step_adamw and op_sum (llama/16529)

* scaffold to support opt step adamw on metal (not written so far)

* add opt-step-adamw kernel for metal

* pass op->src[4] as a separate buffer to the pipeline

* add bounds check to opt-step-adamw kernel

* complete scaffold for GGML_OP_SUM

* naive GGML_OP_SUM kernel

* remove unwanted comment

* change OP_SUM capability gate

* Add has_simdgroup_reduction to both ops to pass CI
src/ggml-metal/ggml-metal-device.cpp
src/ggml-metal/ggml-metal-device.h
src/ggml-metal/ggml-metal-device.m
src/ggml-metal/ggml-metal-impl.h
src/ggml-metal/ggml-metal-ops.cpp
src/ggml-metal/ggml-metal-ops.h
src/ggml-metal/ggml-metal.metal