]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
llama : add 18-layer model type for Gemma 3-270m (#15319)
authorDaniel Bevenius <redacted>
Thu, 14 Aug 2025 15:56:26 +0000 (17:56 +0200)
committerGitHub <redacted>
Thu, 14 Aug 2025 15:56:26 +0000 (17:56 +0200)
commit7a0de960452f9a57de7f1d167e57b6f3ee5ac1b6
tree68e8995c33051d401ad0cc50daa12cc8db0f9452
parente4e915912cfd2ee15c5a4a0074813232134892f6
llama : add 18-layer model type for Gemma 3-270m (#15319)

This commit adds support for the 18-layer model type in the Gemma3
series, which is the size of the Gemma3-270m model.

The motivation for this commit is was the only change required for
Gemma3-270m to be converted to GGUF format and used with llama.cpp.

Once the model has been converted and uploaded to Huggingface it can be
used like this:
```console
$ ./build/bin/llama-cli -hf ggml-org/gemma-3-270m-GGUF:Q8_0
```
src/llama-model.cpp
src/llama-model.h