]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
server: added more docs for response_fields field (#10995)
authorIsaac McFadyen <redacted>
Sat, 28 Dec 2024 15:09:19 +0000 (10:09 -0500)
committerGitHub <redacted>
Sat, 28 Dec 2024 15:09:19 +0000 (16:09 +0100)
examples/server/README.md

index c7d91be9976c4924abdac273971bbc0043497442..07436057a157d4cbf5b7c503edc062083e9e2947 100644 (file)
@@ -450,7 +450,7 @@ These words will not be included in the completion, so make sure to add them to
 
 `post_sampling_probs`: Returns the probabilities of top `n_probs` tokens after applying sampling chain.
 
-`response_fields`: A list of response fields, for example: `"response_fields": ["content", "generation_settings/n_predict"]`. If the specified field is missing, it will simply be omitted from the response without triggering an error.
+`response_fields`: A list of response fields, for example: `"response_fields": ["content", "generation_settings/n_predict"]`. If the specified field is missing, it will simply be omitted from the response without triggering an error. Note that fields with a slash will be unnested; for example, `generation_settings/n_predict` will move the field `n_predict` from the `generation_settings` object to the root of the response and give it a new name.
 
 **Response format**