]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
gritlm : add --outdir option to hf.sh script (#6699)
authorDaniel Bevenius <redacted>
Tue, 16 Apr 2024 06:34:06 +0000 (08:34 +0200)
committerGitHub <redacted>
Tue, 16 Apr 2024 06:34:06 +0000 (09:34 +0300)
This commit updates the hf.sh script usage to include the --outdir option
and specifies the models directory as the output directory.

The motivation for this is to avoid cluttering the root directory with
model files.

Signed-off-by: Daniel Bevenius <redacted>
examples/gritlm/README.md

index 64cc192040c430b5f73661cbd74820008de50610..a3a3c1389ca270f12f4bb670473c2d954bfd6ea7 100644 (file)
@@ -21,12 +21,12 @@ not have to be performed at all.
 ### Running the example
 Download a Grit model:
 ```console
-$ scripts/hf.sh --repo cohesionet/GritLM-7B_gguf --file gritlm-7b_q4_1.gguf
+$ scripts/hf.sh --repo cohesionet/GritLM-7B_gguf --file gritlm-7b_q4_1.gguf --outdir models
 ```
 
 Run the example using the downloaded model:
 ```console
-$ ./gritlm -m gritlm-7b_q4_1.gguf
+$ ./gritlm -m models/gritlm-7b_q4_1.gguf
 
 Cosine similarity between "Bitcoin: A Peer-to-Peer Electronic Cash System" and "A purely peer-to-peer version of electronic cash w" is: 0.605
 Cosine similarity between "Bitcoin: A Peer-to-Peer Electronic Cash System" and "All text-based language problems can be reduced to" is: 0.103