]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
main : add options for temperature control (#2088)
authorDaniel Ziegenberg <redacted>
Mon, 13 May 2024 11:59:44 +0000 (13:59 +0200)
committerGitHub <redacted>
Mon, 13 May 2024 11:59:44 +0000 (14:59 +0300)
commitf141b2b938ebf56384dbbe04e595e1b5a9d1104c
treeafca8ee6b20291467b824dfdafc4b239f7994efe
parent2b434c449ef091db93b2b644df8b3a2912632d77
main : add options for temperature control (#2088)

Add two options:

```
-tp,       --temperature N     [0.00   ] The sampling temperature, between 0 and 1
-tpi,      --temperature-inc N [0.20   ] The increment of temperature, between 0 and 1
```

The sampling temperature, between 0 and 1. Higher values like 0.8 will
make the output more random, while lower values like 0.2 will make it
more focused and deterministic. If set to 0, the model will use log
probability to automatically increase the temperature until certain
thresholds are hit.

Signed-off-by: Daniel Ziegenberg <redacted>
examples/main/main.cpp