]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
vulkan: don't hold the device mutex while compiling pipelines (llama/23641)
authorJeff Bolz <redacted>
Mon, 1 Jun 2026 12:04:01 +0000 (07:04 -0500)
committerGeorgi Gerganov <redacted>
Mon, 8 Jun 2026 11:36:36 +0000 (14:36 +0300)
commit71d80aa49eb93868a8ed7e9f8abeae9e061adcfe
tree6e4047efef7afd0ffcc7eb05b35d339712ab2ed0
parentc471bcce1b2d7cdaf372d621b64b1275cb7a01d8
vulkan: don't hold the device mutex while compiling pipelines (llama/23641)

* vulkan: don't hold the device mutex while compiling pipelines

We need to hold a lock while we traverse all pipelines and lazily initialize
them, but we don't need to hold it while the pipeline is being compiled. And
it doesn't need to be the same lock as the device mutex. We call load_shaders
each time a pipeline is needed, so we only need to compile that one pipeline
(and, for example, don't want to end up compiling a pipeline that another
thread should be compiling).

* remove 'needed'
ggml/src/ggml-vulkan/ggml-vulkan.cpp