]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
convert : refactor rope_freqs generation (#9396)
authorcompilade <redacted>
Tue, 1 Oct 2024 06:31:36 +0000 (02:31 -0400)
committerGitHub <redacted>
Tue, 1 Oct 2024 06:31:36 +0000 (09:31 +0300)
commit1927378bcce20ba72b6c89d5977b854a4bcaeb5d
tree89207579090ec32432777a5815e061fd21f2123d
parent6f1d9d71f4c568778a7637ff6582e6f6ba5fb9d3
convert : refactor rope_freqs generation (#9396)

* convert : refactor rope_freqs generation

This should also fix vocab-only conversion for Phi-3.

* convert : adapt MiniCPM3 to separate rope_freqs insertion

MiniCPM3's tokenizer is treated as a SentencePiece tokenizer to avoid
having to run its custom Python code which mixes tokenization
in the same file as tool calls.

gguf-py : add long and short RoPE factors to tensor mappings

Empty, but the key names are used to populate the mappings.
convert_hf_to_gguf.py
convert_lora_to_gguf.py
gguf-py/gguf/constants.py
gguf-py/gguf/tensor_mapping.py