]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
gguf : add 64-bit support (GGUF v2) (#2821)
authorGeorgi Gerganov <redacted>
Sun, 27 Aug 2023 11:19:54 +0000 (14:19 +0300)
committerGitHub <redacted>
Sun, 27 Aug 2023 11:19:54 +0000 (14:19 +0300)
commitd0cee0d36d5be95a0d9088b674dbb27354107221
treebb5db56b4d1a9ea71eb1651485a38034b6acc3f2
parentedd4c1481708fcd788b0e423268304fd26e2b125
gguf : add 64-bit support (GGUF v2) (#2821)

* gguf : bump version to 2

* gguf : add support for 64-bit (no backwards comp yet)

* gguf : v1 backwards comp

* gguf.py : bump GGUF version

* gguf.py : uint64_t on all lengths, sizes and counts, enums still uint32_t

* gguf.py : string lengths uint32_t

* gguf : update all counts to 64-bit

* gguf.py : string len uint64_t and n_dims uint32_t

* gguf : fix typo

* llama.cpp : print gguf version

---------

Co-authored-by: klosax <redacted>
examples/gguf/gguf.cpp
ggml.c
ggml.h
gguf-py/gguf/gguf.py
llama.cpp