]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
SYCL: fix rms_norm_mul_add for tensor dim not a multiple of sg_size (#15592)
authorAkarshan Biswas <redacted>
Tue, 26 Aug 2025 18:57:49 +0000 (00:27 +0530)
committerGitHub <redacted>
Tue, 26 Aug 2025 18:57:49 +0000 (00:27 +0530)
commit8b696861364360770e9f61a3422d32941a477824
tree805974832dd9614e94cdebfbd057ac0360ea6251
parent8ce3ff1d91245e158d98d8062cd64b0dd98dcfe3
SYCL: fix rms_norm_mul_add for tensor dim not a multiple of sg_size (#15592)

The original implementation unconditionally returned true for this operation, leading to a failure when the tensor's first dimension (ne[0]) was not a multiple of WARP_SIZE. This caused an GGML_ASSERT(ncols % WARP_SIZE == 0) failure in ggml-sycl/norm.cpp.

This change updates the ggml_backend_sycl_device_supports_op check to correctly return true for GGML_OP_RMS_NORM only when the first dimension of the tensor is a multiple of WARP_SIZE, ensuring the operation can be performed without error.
ggml/src/ggml-sycl/ggml-sycl.cpp