]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
ggml : add Q4_0_8_8 RISC-V GEMV and GEMM kernels (llama/10029)
authorxctan <redacted>
Wed, 30 Oct 2024 07:00:40 +0000 (15:00 +0800)
committerGeorgi Gerganov <redacted>
Mon, 4 Nov 2024 17:42:09 +0000 (19:42 +0200)
commit6b74693d666f0e3ff7741a7907f18315d2979726
tree6d088ef1b1acc7930260160dd8f0a64bdc203c65
parentda649f702ab0cb80dbaf239e0c715d55121705fc
ggml : add Q4_0_8_8 RISC-V GEMV and GEMM kernels (llama/10029)

* ggml : RISC-V vector gemv for q4_0_8x8

* ggml : Added WIP rvv q4_0_8x8 gemm

* ggml : Added initial implementation of rvv gemm

* ggml : optimize gemm to avoid register spillover

* ggml : Fix GCC rvv load alignment issue

* ggml : Format gemm rvv code

* ggml : Fix a typo in RVV q4_0_8_8 GEMM
src/ggml-aarch64.c