]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
llama : fix --mtest option (close #1414)
authorGeorgi Gerganov <redacted>
Fri, 12 May 2023 18:44:20 +0000 (21:44 +0300)
committerGeorgi Gerganov <redacted>
Fri, 12 May 2023 18:44:20 +0000 (21:44 +0300)
examples/main/main.cpp

index bd1c4ab5585212e2db196d88106fe04557a54f2b..8543414dd0fbb35d130e9f97804cfa8fee55ed84 100644 (file)
@@ -121,7 +121,7 @@ int main(int argc, char ** argv) {
     // uncomment the "used_mem" line in llama.cpp to see the results
     if (params.mem_test) {
         {
-            const std::vector<llama_token> tmp(params.n_batch, 0);
+            const std::vector<llama_token> tmp(params.n_batch, llama_token_bos());
             llama_eval(ctx, tmp.data(), tmp.size(), 0, params.n_threads);
         }