]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml: add graph_reused (#21764)
authorAman Gupta <redacted>
Thu, 16 Apr 2026 09:21:28 +0000 (17:21 +0800)
committerGitHub <redacted>
Thu, 16 Apr 2026 09:21:28 +0000 (17:21 +0800)
commit3f7c29d318e317b63f54c558bc69803963d7d88c
treec0cf51ecf9ffb85c7db6e11a90bdd517120c359f
parentae2d34899e2a9a172c7f2090ed4dd366bbf25d0d
ggml: add graph_reused (#21764)

* ggml: add graph_reused

* use versioning instead of reuse flag

* increment version with atomic

* use top bits for split numbering

* add assert

* move counter to ggml.c

* set uid in split_graph only

* fix windows

* address further review comments

* get next_uid rather than doing bit manipulation

* rename + add comment about uid
ggml/src/ggml-backend.cpp
ggml/src/ggml-cuda/common.cuh
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-impl.h
ggml/src/ggml.c