]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
server : fix newlines in help (#5785)
authorGeorgi Gerganov <redacted>
Fri, 1 Mar 2024 07:59:43 +0000 (09:59 +0200)
committerGeorgi Gerganov <redacted>
Fri, 1 Mar 2024 07:59:43 +0000 (09:59 +0200)
examples/server/server.cpp

index bf20e0cf1c9c7a5bb094732047c64160719f8867..45c4aec4de502216527ec088d513b34eed618582 100644 (file)
@@ -2080,8 +2080,8 @@ static void server_print_usage(const char *argv0, const gpt_params &params,
     printf("  --override-kv KEY=TYPE:VALUE\n");
     printf("                            advanced option to override model metadata by key. may be specified multiple times.\n");
     printf("                            types: int, float, bool. example: --override-kv tokenizer.ggml.add_bos_token=bool:false\n");
-    printf("  -gan N, --grp-attn-n N    set the group attention factor to extend context size through self-extend(default: 1=disabled), used together with group attention width `--grp-attn-w`");
-    printf("  -gaw N, --grp-attn-w N    set the group attention width to extend context size through self-extend(default: 512), used together with group attention factor `--grp-attn-n`");
+    printf("  -gan N, --grp-attn-n N    set the group attention factor to extend context size through self-extend(default: 1=disabled), used together with group attention width `--grp-attn-w`\n");
+    printf("  -gaw N, --grp-attn-w N    set the group attention width to extend context size through self-extend(default: 512), used together with group attention factor `--grp-attn-n`\n");
     printf("  --chat-template JINJA_TEMPLATE\n");
     printf("                            set custom jinja chat template (default: template taken from model's metadata)\n");
     printf("                            Note: only commonly used templates are accepted, since we don't have jinja parser\n");