]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
llama : update llm_build_copy_mask_state comment [no ci] (#9385)
authorDaniel Bevenius <redacted>
Tue, 10 Sep 2024 07:03:21 +0000 (09:03 +0200)
committerGitHub <redacted>
Tue, 10 Sep 2024 07:03:21 +0000 (10:03 +0300)
commit83008b7cfe90ad89d0c0ed2c2424fd75edc25ac1
treeae47b501ce5c08d0be066c0b975f5eefc89555fd
parent0b4ac75772b744bb0a0d674927587621d1057884
llama : update llm_build_copy_mask_state comment [no ci] (#9385)

This commit updates the comment, which seems to contain a typo or be an
outdated comment, in the copy_mask_state function changing the variable
n_rs to n_kv.

I believe this change is correct and what the comment wants to
convey is to copy the states that are not going to be used in the
upcoming processing, which are the tokens states from n_seqs up to
the number of possible token states n_kv.
src/llama.cpp