]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : add Q4_0_8_8 RISC-V GEMV and GEMM kernels (llama/10029)
authorxctan <redacted>
Wed, 30 Oct 2024 07:00:40 +0000 (15:00 +0800)
committerGeorgi Gerganov <redacted>
Fri, 15 Nov 2024 13:21:04 +0000 (15:21 +0200)
commit75dd198870f6c739087ec07e6ed46fd13ef3a3f1
tree6e5c78ab47bc454a7214f3e7856f3743044053a8
parent1d48457aa61d784719899d18c46ede86635c4bad
ggml : add Q4_0_8_8 RISC-V GEMV and GEMM kernels (llama/10029)

* ggml : RISC-V vector gemv for q4_0_8x8

* ggml : Added WIP rvv q4_0_8x8 gemm

* ggml : Added initial implementation of rvv gemm

* ggml : optimize gemm to avoid register spillover

* ggml : Fix GCC rvv load alignment issue

* ggml : Format gemm rvv code

* ggml : Fix a typo in RVV q4_0_8_8 GEMM
ggml/src/ggml-aarch64.c