]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
model : add support for MiniMaxText01ForCausalLM and MiniMaxM1ForCausalLM (#27018)
authorfairydreaming <redacted>
Fri, 14 Aug 2026 22:02:38 +0000 (00:02 +0200)
committerGitHub <redacted>
Fri, 14 Aug 2026 22:02:38 +0000 (00:02 +0200)
commit16d222fc5ead59d20039501a37251c9ed457a454
tree935703438a4fa57137a858e4eed8ad1dec4e8a46
parent6fed9f6ff7a603b124cb8c5864fca6ea879f9f99
model : add support for MiniMaxText01ForCausalLM and MiniMaxM1ForCausalLM (#27018)

* llama : support for MiniMax-Text-01 model

* chore : renames to match the other MiniMax models

* model : add logits mask as MiniMax-Text-01 embeddings tensor has zero-valued embeddings for tokens >= 200032 that produce zero logits disrupting the token sampling process

* llama : replace hardcoded conditions with hparams.is_recr()

* model : used build_rs() for recurrent state management

* chore : code cleanup

* model : optimized MiniMax-Text-01 by removing the state tranpose operations

* chore : removed unnecessary ggml_cont() in MiniMax-Text-01 implementation

* llama : add generic logits mask graph input

* model : permuted diag_decay dimensions to avoid doing it inside MiniMax-Text-01 graph

* chore : code cleanup

* chore : code cleanup

* model : use token positions when calculating MiniMax-Text-01 decay tensors

* convert : add support for MiniMaxM1ForCausalLM as it seems to be the same as MiniMaxText01ForCausalLM

* chat : add jinja template for MiniMax-M1

Co-authored-by: QscQ <redacted>
* chore : code cleanup

* tests : MINIMAX_01-related fixes

* chore : silence Python lint errors

* vocab : remove unnecessary vocab type

* convert : update MiniMaxText01Model conversion to use yield when modifying tensors

* convert : suppress tokens with zero-valued embeddings during MiniMax-Text-01 conversion

* llama : removed logits mask - no longer necessary as token suppression is used instead

* model : use common functions to make MiniMax-Text-01 implementation more concise

Co-authored-by: Sigbjørn Skjæret <redacted>
* model : use common functions to make MiniMax-Text-01 implementation more concise

Co-authored-by: Sigbjørn Skjæret <redacted>
* convert : override non-working built-in chat template during conversion

* tests : skip arch MINIMAX_01 tests for WebGPU backend (it breaks again)

---------

Co-authored-by: Stanisław Szymczyk <redacted>
Co-authored-by: QscQ <redacted>
Co-authored-by: Sigbjørn Skjæret <redacted>
15 files changed:
conversion/__init__.py
conversion/minimax.py
gguf-py/gguf/constants.py
gguf-py/gguf/tensor_mapping.py
models/templates/MiniMax-M1.jinja [new file with mode: 0644]
src/llama-arch.cpp
src/llama-arch.h
src/llama-context.cpp
src/llama-hparams.cpp
src/llama-hparams.h
src/llama-model.cpp
src/llama-model.h
src/models/minimax-01.cpp [new file with mode: 0644]
src/models/models.h
tests/test-llama-archs.cpp