]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
cuda : fix rope + add tests (#7452)
authorGeorgi Gerganov <redacted>
Wed, 22 May 2024 08:01:35 +0000 (11:01 +0300)
committerGitHub <redacted>
Wed, 22 May 2024 08:01:35 +0000 (11:01 +0300)
commit3e5faa85032ec3106a2ad831bf412be9ff139f47
treedc85a6e015eecb4c771bffd6d3c4202459edaa9a
parent201cc11afa0a1950e1f632390b2ac6c937a0d8f0
cuda : fix rope + add tests (#7452)

* cuda : fix rope pos data

ggml-ci

* ggml : drop mode & 1 == 1 support for ggml_rope

ggml-ci

* ggml : support freq_factors for f16 rope (CPU)

ggml-ci

* tests : add rope tests using frequency factors

ggml-ci
ggml-cuda/rope.cu
ggml.c
ggml.h
tests/test-backend-ops.cpp