]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
examples : Improve Alpaca Default Repeat Penalty: Better Match Alpaca.cpp Experience...
authorClint Herron <redacted>
Sat, 22 Apr 2023 06:54:33 +0000 (02:54 -0400)
committerGitHub <redacted>
Sat, 22 Apr 2023 06:54:33 +0000 (09:54 +0300)
* Moving parameters to separate lines for readability.

* Increasing repeate_penalty to 1.1 to make alpaca more usable by default.

* Adding trailing newline.

examples/alpaca.sh

index 8d626173030cd2120d3e0bab8c4282f1d44332ae..aef207f364797f1ccf2f5a4306ec4a695b562107 100755 (executable)
@@ -7,4 +7,13 @@
 cd `dirname $0`
 cd ..
 
-./main -m ./models/ggml-alpaca-7b-q4.bin --color -f ./prompts/alpaca.txt --ctx_size 2048 -n -1 -ins -b 256 --top_k 10000 --temp 0.2 --repeat_penalty 1 -t 7
+./main -m ./models/ggml-alpaca-7b-q4.bin \
+       --color \
+       -f ./prompts/alpaca.txt \
+       --ctx_size 2048 \
+       -n -1 \
+       -ins -b 256 \
+       --top_k 10000 \
+       --temp 0.2 \
+       --repeat_penalty 1.1 \
+       -t 7