]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
main : don't print special tokens with --grammar (#6923)
authorJustine Tunney <redacted>
Sat, 25 May 2024 09:04:03 +0000 (05:04 -0400)
committerGitHub <redacted>
Sat, 25 May 2024 09:04:03 +0000 (19:04 +1000)
commit00c63907931bb08a0ed2b7e38cf44dd290143cb9
treec2248d26ae5d25160594523b562bb2481fb1c87a
parentfaa0e6979a11dcb731e9d778ad42ceaa0302015e
main : don't print special tokens with --grammar (#6923)

* main : don't print special tokens with --grammar

The CLI interface was recently changed to print special control tokens
like the </s> stop message one. This token shouldn't be printed if the
grammar flag was passed, unless the grammar specifies it, because that
breaks shell-scriptability.

* main: use seperate stream for control characters

* main: use dprintf and add --ctrl-token-no-out and --ctrl-token-fd-out

* main: dprintf isn't part of the IEEE POSIX standard. Just use write().

* main: remove --ctrl-token-fd-out in favor for fcntl() based detection

* common.cpp: accidentally removed --interactive-first

* main: only merge stdout and control token if not in conversation or grammar mode

* main: rejig control token descriptor handling

* main: must check pipe status on very top of program

* main: renamed --no-special from  --ctrl-token-no-out and other refactoring

* main: refactor ctrl_token_no_out --> no_special

* llama: rename llama_token_is_control_token() to llama_token_is_control()

* main: remove special token file descriptor feature (#5)

---------

Co-authored-by: Brian <redacted>
common/common.cpp
common/common.h
examples/main/main.cpp
llama.cpp
llama.h