]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
llama-bench : Add `--override-tensors` arg (#12922)
author4onen <redacted>
Sun, 27 Apr 2025 21:48:26 +0000 (14:48 -0700)
committerGitHub <redacted>
Sun, 27 Apr 2025 21:48:26 +0000 (23:48 +0200)
commitc0a97b762e5ec767dc414f0dc4979befd4c09a52
treed92c672378707ccb50f043a20d1c36b6dd56b2a9
parentced44be34290fab450f8344efa047d8a08e723b4
llama-bench : Add `--override-tensors` arg (#12922)

* Add --override-tensors option to llama-bench

* Correct llama-bench --override-tensors to --override-tensor

* llama-bench: Update --override-tensors parsing to match --tensor-split, appear in test matrix.

* Make new llama-bench util functions static to fix Ubuntu CI

* llama-bench: Correct -ot corner cases (No -ot calls, leading and trailing empty -ot spans, etc.)
examples/llama-bench/llama-bench.cpp