]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
server : add one level list nesting for embeddings (#8936)
authorMathieu Geli <redacted>
Fri, 9 Aug 2024 06:32:02 +0000 (08:32 +0200)
committerGitHub <redacted>
Fri, 9 Aug 2024 06:32:02 +0000 (09:32 +0300)
examples/server/server.cpp

index 898c83ea3522bb6d368535fb449fb727f5caeac3..360f571e42867626b59a91021e987b53d207d8ad 100644 (file)
@@ -975,6 +975,8 @@ struct server_context {
                 (prompt->is_array() &&  prompt->size() == 1 && prompt->at(0).is_string()) ||
                 (prompt->is_array() && !prompt->empty()     && prompt->at(0).is_number_integer())) {
                 slot.prompt = *prompt;
+            } else if (prompt->is_array() && prompt->size() == 1 && prompt->at(0).is_array()) {
+                slot.prompt = prompt->at(0);
             } else {
                 send_error(task, "\"prompt\" must be a string or an array of integers", ERROR_TYPE_INVALID_REQUEST);
                 return false;