]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
sycl : Overcoming workaround for mmap() allocation on Windows (llama/13482)
authorNicolò Scipione <redacted>
Tue, 20 May 2025 00:54:43 +0000 (02:54 +0200)
committerGeorgi Gerganov <redacted>
Tue, 27 May 2025 15:03:00 +0000 (18:03 +0300)
commitee3f177cbaa2e505e424d35cb5695c72149d5d7e
tree29720003e3e74b19c7f53eafae022e58e74330c3
parent0b69f74e156e2a486f2d44fa0e95524ddaf84a28
sycl : Overcoming workaround for mmap() allocation on Windows (llama/13482)

* Remove mmap workaround on windows

After some testing I found that mmap is supported on windows and for
many GPUs on Linux. Therefore I remove the workaround for windows since
it is not necessary.

* Update llama-bench README

SYCL backend introduced a workaround that allows execution of
llama-bench also without specifying `--mmp 0` flag
ggml/src/ggml-sycl/ggml-sycl.cpp