]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : refactor rope norm/neox (llama/7634)
authorGeorgi Gerganov <redacted>
Wed, 5 Jun 2024 08:29:20 +0000 (11:29 +0300)
committerGeorgi Gerganov <redacted>
Sun, 16 Jun 2024 15:19:48 +0000 (18:19 +0300)
commitabab4500facc7cf962f826a50a3ae07d9e3035ae
tree54f9e17123e127058767875aeae12b4cf1eb5860
parente666315fa86932d35121df9d481ce0b7dae2dd1e
ggml : refactor rope norm/neox (llama/7634)

* ggml : unify rope norm/neox (CPU)

* ggml : fix compile warning

* ggml : remove GLM rope mode

ggml-ci

* metal : better rope implementation

ggml-ci

* cuda : better rope implementation

ggml-ci

* naming : n_orig_ctx -> n_ctx_orig

ggml-ci

* dev : add reminders to update backends

ggml-ci

* vulkan : fix ggml_rope_ext() usage

* cuda : fix array size + indents

ggml-ci
ggml-cuda/rope.cu
ggml-kompute.cpp
ggml-metal.m
ggml-metal.metal
ggml-sycl.cpp
ggml-vulkan.cpp
ggml.c
ggml.h