]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
gpt-oss: implement harmony parsing (#15181) upstream/0.0.6164
authorAldehir Rojas <redacted>
Thu, 14 Aug 2025 14:23:11 +0000 (09:23 -0500)
committerGitHub <redacted>
Thu, 14 Aug 2025 14:23:11 +0000 (17:23 +0300)
commitb204a5a234f4cf0b3f449476da639a5510c6d157
treef179130119de712ef7127bb2d8bcf81da1d5e6e3
parent646944cfa8961afd914dd6637739b3cda9a72e11
gpt-oss: implement harmony parsing (#15181)

* model : add harmony parser for gpt-oss

* gpt-oss : fix grammar trigger from causing empty stack

* gpt-oss: tweak the grammar trigger again

* gpt-oss : add support for recipient in role header

* gpt-oss : fix ungrouped tool calls in grammar

* gpt-oss : loosen function name matching during parse

* gpt-oss : clean up workarounds

* gpt-oss : add template tests

* gpt-oss : simulate thinking and tool call tags

* gpt-oss : undo think tags when reasoning_format is none

* gpt-oss : set special tokens back to user defined

* gpt-oss : update openai-gpt-oss template

* server : filter out harmony thought messages

* gpt-oss : simplify parsing
common/chat.cpp
models/templates/openai-gpt-oss-120b.jinja [new file with mode: 0644]
src/llama-vocab.cpp
tests/test-chat.cpp
tools/server/public/index.html.gz
tools/server/webui/src/components/ChatMessage.tsx
tools/server/webui/src/utils/misc.ts