]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
llama : add option to save memory in device buffers (llama/22679)
authorGeorgi Gerganov <redacted>
Tue, 5 May 2026 03:35:07 +0000 (06:35 +0300)
committerGeorgi Gerganov <redacted>
Thu, 14 May 2026 18:26:48 +0000 (21:26 +0300)
commit6f6103f6d0034945a9377d16e29cf0d3ec2b4c35
treea1eab947b15df8bdbb52214340139593dd9ee220
parent4794432337769d04ffb7d443747d69e6c0fd7469
llama : add option to save memory in device buffers (llama/22679)

* llama : add option to save memory in device buffers

* tests : extend llama-save-load-state
ggml/src/ggml-metal/ggml-metal-device.h
ggml/src/ggml-metal/ggml-metal-device.m
ggml/src/ggml-metal/ggml-metal.cpp