]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
ggml : refactor rope norm/neox (llama/7634)
authorGeorgi Gerganov <redacted>
Wed, 5 Jun 2024 08:29:20 +0000 (11:29 +0300)
committerGeorgi Gerganov <redacted>
Sat, 15 Jun 2024 19:05:47 +0000 (22:05 +0300)
commitf27d7fc0b09a1c14540dd32e66cedf71f9cdd997
treedc6866c2c461f8efa17ba05bf12201e63051ace0
parenta524d3f0ca02c83f40a36b514e902260190d53b0
ggml : refactor rope norm/neox (llama/7634)

* ggml : unify rope norm/neox (CPU)

* ggml : fix compile warning

* ggml : remove GLM rope mode

ggml-ci

* metal : better rope implementation

ggml-ci

* cuda : better rope implementation

ggml-ci

* naming : n_orig_ctx -> n_ctx_orig

ggml-ci

* dev : add reminders to update backends

ggml-ci

* vulkan : fix ggml_rope_ext() usage

* cuda : fix array size + indents

ggml-ci
include/ggml/ggml.h
src/ggml-cuda/rope.cu
src/ggml-kompute.cpp
src/ggml-metal.m
src/ggml-metal.metal
src/ggml-sycl.cpp
src/ggml-vulkan.cpp
src/ggml.c
tests/test-backend-ops.cpp
tests/test-grad0.cpp