]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
SYCL: Introducing memory host pool (#11251)
authorNicolò Scipione <redacted>
Sun, 19 Jan 2025 13:33:34 +0000 (14:33 +0100)
committerGitHub <redacted>
Sun, 19 Jan 2025 13:33:34 +0000 (21:33 +0800)
commit99487b57d47e14dc342b7b89d238ca11c0345241
treed10d765f6148dfeaa2a1d31fad47e1918061f5e0
parenta1649cc13f89946322358f92ea268ae1b7b5096c
SYCL: Introducing memory host pool (#11251)

* Implement host pool for matrix_info

Creating a new memory pool on the host to store memory location for
matrix_info needed to launch gemm_batch from oneMKL/oneMath.
Removing complex support in gemm_batch since it is not used in llama.cpp

* Remove unnecessary headers and cast

* Reorder member variable to avoid warning on initialization

* Formatting

* Remove unused variable

* Address PR review feedback - remove warning

---------

Signed-off-by: nscipione <redacted>
ggml/src/ggml-sycl/common.hpp
ggml/src/ggml-sycl/dpct/helper.hpp
ggml/src/ggml-sycl/ggml-sycl.cpp