]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
model-conversion : use save_output_data for causual embeddings [no ci] (#26890)
authorDaniel Bevenius <redacted>
Tue, 11 Aug 2026 09:41:38 +0000 (11:41 +0200)
committerGitHub <redacted>
Tue, 11 Aug 2026 09:41:38 +0000 (11:41 +0200)
commit1138b851fae633e9b2e74db0dac3623b7c6fac43
tree1ed7bdd3603c2f7adccd76dce89a7820de43c9e1
parent9afff1b7483ddc5a78a7738025b135e0f013d50d
model-conversion : use save_output_data for causual embeddings [no ci] (#26890)

This commit updates the python script that runs the original model to
generate embeddings for the causal model, to use save_output_data which
stores the token ids and the prompt in addition to logits.

The motivation for this is that the embedding logits verification will
fail as it expects these files (-prompt.txt and -tokens.bin) to exist.
With the changes in this commit the causal-verify-embeddings target
works again.
examples/model-conversion/scripts/causal/run-casual-gen-embeddings-org.py