]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
convert : Add support for Microsoft Phi-4 model (#10817)
authorfairydreaming <redacted>
Thu, 19 Dec 2024 09:37:12 +0000 (10:37 +0100)
committerGitHub <redacted>
Thu, 19 Dec 2024 09:37:12 +0000 (10:37 +0100)
commit7585edbdebd02861e0994dae67c9338731fb3fc5
tree3a1ac3d2ecd5c0f69dec63aae93c5fba6d495659
parentcd920d0ac38ec243605a5a57c50941140a193f9e
convert : Add support for Microsoft Phi-4 model  (#10817)

* convert : use GPT2 vocab for Phi-4 model

* convert : use null value of sliding_window to distinguish Phi-4 from other PHI3-based models

* llama : do not use sliding window attention mask for Phi-4 model

---------

Co-authored-by: Stanisław Szymczyk <redacted>
convert_hf_to_gguf.py
src/llama.cpp