]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
Fix issue where interactive mode crashes when input exceeds ctx size (#1789)
authorKerfuffle <redacted>
Sun, 11 Jun 2023 14:19:17 +0000 (08:19 -0600)
committerGitHub <redacted>
Sun, 11 Jun 2023 14:19:17 +0000 (08:19 -0600)
commitfa84c4b3e80199a5683438f062009c031a06c4fa
treec0c088e617ec6137a1ea47dc0167fc164c05e2bb
parent12b063f0ecf280e98028e444fc492ee6222cdcdc
Fix issue where interactive mode crashes when input exceeds ctx size (#1789)

* Fix issue where interactive mode in the main example crashes when input exceeds ctx size

* Ensure the context size is at least 8 tokens in the main example.

Closes #1768
examples/common.cpp
examples/common.h
examples/main/main.cpp