]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
sync : ggml (new ops, tests, backend, etc.) (#4359)
authorGeorgi Gerganov <redacted>
Thu, 7 Dec 2023 20:26:54 +0000 (22:26 +0200)
committerGitHub <redacted>
Thu, 7 Dec 2023 20:26:54 +0000 (22:26 +0200)
commitfe680e3d1080a765e5d3150ffd7bab189742898d
treecd8be8bf5722d10596923aef7fb44bf8a58378d7
parentbcc0eb4591bec5ec02fad3f2bdcb1b265052ea56
sync : ggml (new ops, tests, backend, etc.) (#4359)

* sync : ggml (part 1)

* sync : ggml (part 2, CUDA)

* sync : ggml (part 3, Metal)

* ggml : build fixes

ggml-ci

* cuda : restore lost changes

* cuda : restore lost changes (StableLM rope)

* cmake : enable separable compilation for CUDA

ggml-ci

* ggml-cuda : remove device side dequantize

* Revert "cmake : enable separable compilation for CUDA"

This reverts commit 09e35d04b1c4ca67f9685690160b35bc885a89ac.

* cuda : remove assert for rope

* tests : add test-backend-ops

* ggml : fix bug in ggml_concat

* ggml : restore `ggml_get_n_tasks()` logic in `ggml_graph_plan()`

* ci : try to fix macOS

* ggml-backend : remove backend self-registration

* ci : disable Metal for macOS cmake build

ggml-ci

* metal : fix "supports family" call

* metal : fix assert

* metal : print resource path

ggml-ci

---------

Co-authored-by: slaren <redacted>
20 files changed:
.github/workflows/build.yml
.gitignore
CMakeLists.txt
Makefile
ggml-alloc.c
ggml-alloc.h
ggml-backend-impl.h
ggml-backend.c
ggml-backend.h
ggml-cuda.cu
ggml-cuda.h
ggml-impl.h
ggml-metal.h
ggml-metal.m
ggml-metal.metal
ggml.c
ggml.h
scripts/sync-ggml.sh
tests/CMakeLists.txt
tests/test-backend-ops.cpp [new file with mode: 0644]