]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
metal : add opt_step_adamw and op_sum (llama/16529)
authorSam/Samuel <redacted>
Sun, 12 Oct 2025 18:43:14 +0000 (02:43 +0800)
committerGeorgi Gerganov <redacted>
Wed, 15 Oct 2025 06:29:17 +0000 (09:29 +0300)
commit7f22fe5d8fe3b821f0f329bd786d3daa0a0f0181
treedbf601abd7203ad785a452245b3e113d2bf3d07c
parentbe778c992fdb6e3e37b8f48feb84350f07dd4209
metal : add opt_step_adamw and op_sum (llama/16529)

* scaffold to support opt step adamw on metal (not written so far)

* add opt-step-adamw kernel for metal

* pass op->src[4] as a separate buffer to the pipeline

* add bounds check to opt-step-adamw kernel

* complete scaffold for GGML_OP_SUM

* naive GGML_OP_SUM kernel

* remove unwanted comment

* change OP_SUM capability gate

* Add has_simdgroup_reduction to both ops to pass CI
ggml/src/ggml-metal/ggml-metal-device.cpp
ggml/src/ggml-metal/ggml-metal-device.h
ggml/src/ggml-metal/ggml-metal-device.m
ggml/src/ggml-metal/ggml-metal-impl.h
ggml/src/ggml-metal/ggml-metal-ops.cpp
ggml/src/ggml-metal/ggml-metal-ops.h
ggml/src/ggml-metal/ggml-metal.metal