]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
cuda : fix rope + add tests (llama/7452)
authorGeorgi Gerganov <redacted>
Wed, 22 May 2024 08:01:35 +0000 (11:01 +0300)
committerGeorgi Gerganov <redacted>
Sun, 16 Jun 2024 15:19:48 +0000 (18:19 +0300)
commitc4d6958b3e8a2e3b1d36fa197df8a02ac8a00dac
treed0fabd64555f1a82664a0391004a4e4f62129522
parentc9dcb751189ad0f38b85ada0b86e3c36f8393897
cuda : fix rope + add tests (llama/7452)

* cuda : fix rope pos data

ggml-ci

* ggml : drop mode & 1 == 1 support for ggml_rope

ggml-ci

* ggml : support freq_factors for f16 rope (CPU)

ggml-ci

* tests : add rope tests using frequency factors

ggml-ci
ggml-cuda/rope.cu
ggml.c
ggml.h