]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
rpc : keep last_graph_uid in the device context (llama/23273)
authorRadoslav Gerganov <redacted>
Tue, 19 May 2026 06:42:36 +0000 (09:42 +0300)
committerGeorgi Gerganov <redacted>
Mon, 25 May 2026 09:26:07 +0000 (12:26 +0300)
commit3477fdb2e3c5b8828aa06da944c644b32bb7b6de
treea215580b632f24b23fab4e60ad9a397a87046a2d
parenteb558f23cb6d2ea78d5e1401d62bebfa770446c9
rpc : keep last_graph_uid in the device context (llama/23273)

With the introduction of MTP we can have multiple compute contexts for
the same RPC device. In this case last_graph_uid is not updated properly
when contexts are being switched. This patch fixes this by moving
last_graph_uid to the device context, making sure it is always updated.

closes: #23242
ggml/src/ggml-rpc/ggml-rpc.cpp