]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
cuda : fix nkvo, offload and cuda graph node properties matching (llama/19165)
authorGeorgi Gerganov <redacted>
Thu, 29 Jan 2026 16:45:30 +0000 (18:45 +0200)
committerGeorgi Gerganov <redacted>
Fri, 30 Jan 2026 13:56:40 +0000 (15:56 +0200)
commitb997e690ef1205089f078d7a979515397661d15d
tree4e5b04d3a6d7376eee2112dee6d89ca59c30e995
parent34a3e28a084bf2819e12a9d7bd920313ba44663b
cuda : fix nkvo, offload and cuda graph node properties matching (llama/19165)

* cuda : fix nkvo

* cont : more robust cuda graph node property matching

* cont : restore pre-leafs implementation

* cont : comments + static_assert
ggml/src/ggml-cuda/common.cuh
ggml/src/ggml-cuda/fattn.cu
ggml/src/ggml-cuda/ggml-cuda.cu