]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
cuda : fix rope + add tests (llama/7452)
authorGeorgi Gerganov <redacted>
Wed, 22 May 2024 08:01:35 +0000 (11:01 +0300)
committerGeorgi Gerganov <redacted>
Tue, 28 May 2024 11:41:08 +0000 (14:41 +0300)
commitc9507c9ac89e7e8ec82c4a79c4a3867f48d8da4f
treef1c836e27a86a3633aab60757afd8c660a39047b
parent431f367b4533d5ae6036033a965930d46f6f37a8
cuda : fix rope + add tests (llama/7452)

* cuda : fix rope pos data

ggml-ci

* ggml : drop mode & 1 == 1 support for ggml_rope

ggml-ci

* ggml : support freq_factors for f16 rope (CPU)

ggml-ci

* tests : add rope tests using frequency factors

ggml-ci
include/ggml/ggml.h
src/ggml-cuda/rope.cu
src/ggml.c
tests/test-backend-ops.cpp