]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml: add ops for WAN video model (cuda && cpu) (#15669)
authorleejet <redacted>
Thu, 4 Sep 2025 08:38:49 +0000 (16:38 +0800)
committerGitHub <redacted>
Thu, 4 Sep 2025 08:38:49 +0000 (10:38 +0200)
commit0a1b3982cd0bd18730d50a693053b88c13fd04a6
tree96305d8651cc1fff58f242414c72e42489f42bf0
parent5421f63ab08ca1e1a093662a5ccd0117e461185f
ggml: add ops for WAN video model (cuda && cpu) (#15669)

* add conv3d support

* add ggml_pad_ext for cpu & cuda backend

* cuda/cpu: add im2col_3d support

* cuda: make im2col a little faster

* fix cuda pad/scale/im2col3d

* make im2col_3d faster

* gguf: support loading tensors which n_dims > GGML_MAX_DIMS

* fix cuda get_rows

* avoid ggml_conv_3d conflict

* correct GGML_OP_COUNT assertion

* avoid build failure

* avoid build failure on MacOS

* cuda: remove unnecessary MIN define

* fix cpu im2col_3d

* adjust the code style

* cuda: use simpler loop in get_rows

* add test_im2col_3d to test-backend-ops

* test-backend-ops.cpp: remove trailing whitespace

* cpu: im2col_3d support non continuous src

Co-authored-by: Jeff Bolz <redacted>
* fix test_im2col_3d

* remove unused variables

* cuda: get_rows: dfloat2 -> float2

* add test_pad_ext to test-backend-ops.cpp

* add gguf_init_from_file_ext impl

* Revert "gguf: support loading tensors which n_dims > GGML_MAX_DIMS"

This reverts commit d8377a0a37f314bd3713fe043b4333ad661610c1.

* Revert "add gguf_init_from_file_ext impl"

This reverts commit d9f1d13208c68ef83b3538201ac7f31614fb1994.

* update ggml_backend_vk_device_supports_op

* fix ggml_backend_vk_device_supports_op

* update other backend supports op for ggml_pad_ext

* metal/opencl/sycl/vulkan: fix GGML_OP_PAD check in supports_op

---------

Co-authored-by: Jeff Bolz <redacted>
17 files changed:
ggml/include/ggml.h
ggml/src/ggml-cann/aclnn_ops.cpp
ggml/src/ggml-cpu/ggml-cpu.c
ggml/src/ggml-cpu/ops.cpp
ggml/src/ggml-cpu/ops.h
ggml/src/ggml-cuda/getrows.cu
ggml/src/ggml-cuda/ggml-cuda.cu
ggml/src/ggml-cuda/im2col.cu
ggml/src/ggml-cuda/im2col.cuh
ggml/src/ggml-cuda/pad.cu
ggml/src/ggml-cuda/scale.cu
ggml/src/ggml-metal/ggml-metal.m
ggml/src/ggml-opencl/ggml-opencl.cpp
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-vulkan/ggml-vulkan.cpp
ggml/src/ggml.c
tests/test-backend-ops.cpp