]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-rpc: chunk send()/recv() to avoid EINVAL for very large tensors over RPC (macOS...
authorTak-RS <redacted>
Wed, 13 Aug 2025 05:54:30 +0000 (14:54 +0900)
committerGitHub <redacted>
Wed, 13 Aug 2025 05:54:30 +0000 (08:54 +0300)
commite71d48e3265027351e44a8e198f933c98f242c2e
tree4e325f43042fc5a571577fc908a0c908772f11ec
parentb0493156fa8622694f21f42460a84da3eded0bc0
ggml-rpc: chunk send()/recv() to avoid EINVAL for very large tensors over RPC (macOS & others) (#15188)

* ggml-rpc: chunk send()/recv() to avoid EINVAL for very large tensors over RPC (macOS & others). Fixes #15055

* ggml-rpc: rename RPC_IO_CHUNK->MAX_CHUNK_SIZE, use std::min() for cap, switch to GGML_LOG_ERROR, handle 0-length send/recv

* rpc: drop n==0 special case in send_data(); retry in loop per review

* rpc: remove trailing whitespace in send_data()

---------

Co-authored-by: Shinnosuke Takagi <redacted>
ggml/src/ggml-rpc/ggml-rpc.cpp