]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
sycl: add usage of enqueue_functions extension (llama/14244)
authorNicolò Scipione <redacted>
Fri, 20 Jun 2025 13:07:21 +0000 (15:07 +0200)
committerGeorgi Gerganov <redacted>
Sat, 21 Jun 2025 04:34:17 +0000 (07:34 +0300)
commita455dcb04c48a354e9ae8bf027fa51a6a13c8021
tree3373e8bbd1837460905064e953367ca771494e55
parentaf7168174c68f224250ce22a6c671bed1401a3e0
sycl: add usage of enqueue_functions extension (llama/14244)

* Add header and namespace to use enqueue_functions extension

* Convert submit and parallel_for to use new extension in convert.cpp

* Convert submit and parallel_for to use extension in ggml-sycl.cpp

* Convert submit and parallel_for to use extension in gla.cpp

* Convert submit and parallel_for in mmq.cpp

* Convert submit and parallel_for in mmvq.cpp

* Convert submit and parallel_for in remaining files

* Convert all simple parallel_for to nd_launch from enqueue_functions
extension

* Wrapping extension in general function

Create a general function that enable the enqueue_functions extension if
it is enable in the compiler, otherwise call the general SYCL function
to launch kernels.

---------

Signed-off-by: nscipione <redacted>
19 files changed:
ggml/src/ggml-sycl/binbcast.cpp
ggml/src/ggml-sycl/concat.cpp
ggml/src/ggml-sycl/conv.cpp
ggml/src/ggml-sycl/convert.cpp
ggml/src/ggml-sycl/cpy.cpp
ggml/src/ggml-sycl/dmmv.cpp
ggml/src/ggml-sycl/dpct/helper.hpp
ggml/src/ggml-sycl/element_wise.cpp
ggml/src/ggml-sycl/getrows.cpp
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-sycl/gla.cpp
ggml/src/ggml-sycl/im2col.cpp
ggml/src/ggml-sycl/mmq.cpp
ggml/src/ggml-sycl/mmvq.cpp
ggml/src/ggml-sycl/norm.cpp
ggml/src/ggml-sycl/rope.cpp
ggml/src/ggml-sycl/softmax.cpp
ggml/src/ggml-sycl/tsembd.cpp
ggml/src/ggml-sycl/wkv.cpp