]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
cvector: fix CI + correct help message (#8064)
authorXuan Son Nguyen <redacted>
Sat, 22 Jun 2024 16:11:30 +0000 (18:11 +0200)
committerGitHub <redacted>
Sat, 22 Jun 2024 16:11:30 +0000 (18:11 +0200)
* cvector: fix CI + correct help message

* also correct --pca-iter

.editorconfig
common/common.cpp
examples/cvector-generator/README.md
examples/cvector-generator/cvector-generator.cpp

index bd525e13f3ece35f9990062d8c02c289eb08a86f..f88f8da67cd78758ed461758ae646ea62c5fbbc5 100644 (file)
@@ -28,4 +28,5 @@ indent_size = 2
 indent_style = tab
 
 [examples/cvector-generator/*.txt]
+trim_trailing_whitespace = unset
 insert_final_newline = unset
index 64f160af1c18c2fefc79777e21b4765cd6440ef4..cfdedcbae0cd99a921e928914dff5b064cf30d78 100644 (file)
@@ -1989,8 +1989,8 @@ void gpt_params_print_usage(int /*argc*/, char ** argv, const gpt_params & param
     options.push_back({ "cvector",     "       --completions-file FNAME",
                                                                         "completions file (default: '%s')", params.cvector_completions_file.c_str() });
     options.push_back({ "cvector",     "       --completions N",        "number of lines of completions file to use (default: %d)", params.n_completions });
-    options.push_back({ "cvector",     "       --batch-pca N",          "batch size used for PCA. Larger batch runs faster, but uses more memory (default: %d)", params.n_pca_batch });
-    options.push_back({ "cvector",     "       --iter-pca N",           "number of iterations used for PCA (default: %d)", params.n_pca_iterations });
+    options.push_back({ "cvector",     "       --pca-batch N",          "batch size used for PCA. Larger batch runs faster, but uses more memory (default: %d)", params.n_pca_batch });
+    options.push_back({ "cvector",     "       --pca-iter N",           "number of iterations used for PCA (default: %d)", params.n_pca_iterations });
 
     printf("usage: %s [options]\n", argv[0]);
 
index 7b0e79c1ffba8b7b6eb5c908896c2deb34b5fb74..5182e906d91802559ab3c578e83867d9b6992fa2 100644 (file)
@@ -17,7 +17,7 @@ Related PRs:
 ./cvector-generator -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99
 
 # With advanced options
-./cvector-generator -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99 --completions 128 --pca-iter 2000 --batch-pca 100
+./cvector-generator -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99 --completions 128 --pca-iter 2000 --pca-batch 100
 
 # To see help message
 ./cvector-generator -h
index 8653bb63052812bff0f42e444769889bf263918f..355905cb03d601f4e4ac72dd8d78d38d88b0f972 100644 (file)
@@ -40,7 +40,7 @@ static void print_usage(int argc, char ** argv, const gpt_params & params) {
     printf("\nexample usage:\n");
     printf("\n    CPU only:   %s -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf\n", argv[0]);
     printf("\n    with GPU:   %s -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99\n", argv[0]);
-    printf("\n    advanced:   %s -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99 --completions 128 --pca-iter 2000 --batch-pca 100\n", argv[0]);
+    printf("\n    advanced:   %s -m ./dolphin-2.0-mistral-7b.Q4_K_M.gguf -ngl 99 --completions 128 --pca-iter 2000 --pca-batch 100\n", argv[0]);
     printf("\n");
 }