]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
sycl: add usage of enqueue_functions extension (#14244)
authorNicolò Scipione <redacted>
Fri, 20 Jun 2025 13:07:21 +0000 (15:07 +0200)
committerGitHub <redacted>
Fri, 20 Jun 2025 13:07:21 +0000 (15:07 +0200)
commit8308f98c7fb778e54bf75538f5234d8bd20915e9
tree84aaf0a0a277c7079f2360f00806fd149bc55480
parent6369be07359d03723f38c0a4a014ff0f698a0738
sycl: add usage of enqueue_functions extension (#14244)

* Add header and namespace to use enqueue_functions extension

* Convert submit and parallel_for to use new extension in convert.cpp

* Convert submit and parallel_for to use extension in ggml-sycl.cpp

* Convert submit and parallel_for to use extension in gla.cpp

* Convert submit and parallel_for in mmq.cpp

* Convert submit and parallel_for in mmvq.cpp

* Convert submit and parallel_for in remaining files

* Convert all simple parallel_for to nd_launch from enqueue_functions
extension

* Wrapping extension in general function

Create a general function that enable the enqueue_functions extension if
it is enable in the compiler, otherwise call the general SYCL function
to launch kernels.

---------

Signed-off-by: nscipione <redacted>
19 files changed:
ggml/src/ggml-sycl/binbcast.cpp
ggml/src/ggml-sycl/concat.cpp
ggml/src/ggml-sycl/conv.cpp
ggml/src/ggml-sycl/convert.cpp
ggml/src/ggml-sycl/cpy.cpp
ggml/src/ggml-sycl/dmmv.cpp
ggml/src/ggml-sycl/dpct/helper.hpp
ggml/src/ggml-sycl/element_wise.cpp
ggml/src/ggml-sycl/getrows.cpp
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-sycl/gla.cpp
ggml/src/ggml-sycl/im2col.cpp
ggml/src/ggml-sycl/mmq.cpp
ggml/src/ggml-sycl/mmvq.cpp
ggml/src/ggml-sycl/norm.cpp
ggml/src/ggml-sycl/rope.cpp
ggml/src/ggml-sycl/softmax.cpp
ggml/src/ggml-sycl/tsembd.cpp
ggml/src/ggml-sycl/wkv.cpp