]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
ggml : Check the right iface method before using the fallback 2d get (#23306)
authorMatt Corallo <redacted>
Thu, 21 May 2026 06:24:40 +0000 (06:24 +0000)
committerGitHub <redacted>
Thu, 21 May 2026 06:24:40 +0000 (09:24 +0300)
Probably no backends implement only one of 2d get/set, but this
might be annoying for some future backend developer trying to add
2d get/set.

ggml/src/ggml-backend.cpp

index 4e36909f45e98e487ecfeb467f52b6a476d5221f..5c0e5b1b9e2a59115bcbf8b996218814efd82eaf 100644 (file)
@@ -379,7 +379,7 @@ void ggml_backend_tensor_get_2d(const struct ggml_tensor * tensor, void * data,
     ggml_backend_buffer_t buf = tensor->view_src ? tensor->view_src->buffer : tensor->buffer;
     GGML_ASSERT(buf != NULL && "tensor buffer not set");
 
-    if (n_copies <= 1 || buf->iface.set_tensor_2d == NULL) {
+    if (n_copies <= 1 || buf->iface.get_tensor_2d == NULL) {
         for (size_t i = 0; i < n_copies; i++) {
             ggml_backend_tensor_get(tensor, (char *) data + i*stride_data, offset + i*stride_tensor, size);
         }