]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
add log_callback to llama_context_params for custom logging. (#2234)
authorgrahameth <redacted>
Wed, 9 Aug 2023 20:46:40 +0000 (22:46 +0200)
committerGitHub <redacted>
Wed, 9 Aug 2023 20:46:40 +0000 (22:46 +0200)
commitea04a4ca1940d92becc0ee26523aa2c4a18cf938
tree602ab25bb31813889c1ea7dd0408b0984715df71
parent25d43e0eb578b6e73046d9d6644a3a14d460600d
add log_callback to llama_context_params for custom logging. (#2234)

* add log_callback to llama_context_params for custom logging.

* Fix macro expansion on gcc

* Add struct llama_state for global variables and move log_callback there

* Turn log level into enum and some minor changes.

* Remove model_for_logging parameter (not needed anymore)

* Convert remaining fprintf(stderr, ...) calls to use new macros.

* Fix enum and initialize g_state

* Fix log calls after merge

* Fix missing static

* Add back all the new lines in the logging strings

* Add comment for llama_log_callback and replace remaining printf calls

---------

Co-authored-by: grahameth <->
Co-authored-by: Helmut <redacted>
llama.cpp
llama.h