]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
rpc : fix misleading error log (#21184)
authorRadoslav Gerganov <redacted>
Mon, 30 Mar 2026 14:05:11 +0000 (17:05 +0300)
committerGitHub <redacted>
Mon, 30 Mar 2026 14:05:11 +0000 (17:05 +0300)
When RPC is running with a remote backend which doesn't have init_tensor
function (like CPU and Metal), the server log gets full with error
messages saying that init_tensor is being called with null buffer which
is incorrect. This patch fixes this.

ggml/src/ggml-rpc/ggml-rpc.cpp

index 16f6abdffd67a1c9856ef6f09350412fe5556ee6..1378ba9f5bf92e64cca8698932217c4e12801386 100644 (file)
@@ -1340,7 +1340,9 @@ bool rpc_server::init_tensor(const rpc_msg_init_tensor_req & request) {
     if (buffer && buffer->iface.init_tensor) {
         buffer->iface.init_tensor(buffer, tensor);
     } else {
-        GGML_LOG_ERROR("Null buffer for tensor passed to init_tensor function\n");
+        if (!buffer) {
+            GGML_LOG_ERROR("Tensor with null buffer passed to init_tensor function\n");
+        }
     }
 
     if (tensor->extra != nullptr) {