]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml : fix YARN + add tests + add asserts (#7617)
authorGeorgi Gerganov <redacted>
Wed, 29 May 2024 17:17:31 +0000 (20:17 +0300)
committerGitHub <redacted>
Wed, 29 May 2024 17:17:31 +0000 (20:17 +0300)
commitfb76ec31a9914b7761c1727303ab30380fd4f05c
treea0bcc5041d8cf3373ad853bea4befd0b96e098d4
parentcce3dcffc5695bd24835f04e6080070a2a119873
ggml : fix YARN + add tests + add asserts (#7617)

* tests : add rope tests

ggml-ci

* ggml : fixes (hopefully)

ggml-ci

* tests : add non-cont tests

ggml-ci

* cuda : add asserts for rope/norm + fix DS2

ggml-ci

* ggml : assert contiguousness

* tests : reduce RoPE tests

ggml-ci
12 files changed:
ggml-cuda.cu
ggml-cuda/norm.cu
ggml-cuda/rope.cu
ggml-kompute.cpp
ggml-metal.m
ggml-metal.metal
ggml-sycl.cpp
ggml.c
ggml.h
ggml_vk_generate_shaders.py
llama.cpp
tests/test-backend-ops.cpp