]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
ggml : reuse quantum structs across backends (llama/5943)
authorGeorgi Gerganov <redacted>
Tue, 12 Mar 2024 12:27:20 +0000 (14:27 +0200)
committerGeorgi Gerganov <redacted>
Thu, 14 Mar 2024 16:46:58 +0000 (18:46 +0200)
commit179bba90e8c4bcb05fba058f90df201c60ab8075
treede9e437d9208daec40f57d864a259aaeed2b4073
parent8395ffdcd59c39ebc7e02c780928230d07b22239
ggml : reuse quantum structs across backends (llama/5943)

* ggml : reuse quant blocks across backends

ggml-ci

* ggml : define helper constants only for CUDA and SYCL

ggml-ci

* ggml : define helper quantum constants for SYCL

ggml-ci
ggml-common.h
src/ggml-cuda.cu
src/ggml-metal.m
src/ggml-metal.metal
src/ggml-quants.c
src/ggml-quants.h
src/ggml-sycl.cpp