]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml : add some lsx support (#23798)
authorJinyang He <redacted>
Sat, 30 May 2026 08:53:26 +0000 (16:53 +0800)
committerGitHub <redacted>
Sat, 30 May 2026 08:53:26 +0000 (11:53 +0300)
commitd48a56effbba99944a677938d4beb63a0065ecdf
tree7ef2a0607d73cfd8cb333fddb9422f741b4cabbf
parent6e093b80eae32b1fec18848fe53320b220de1451
ggml : add some lsx support (#23798)

* loongarch : optimize LSX fp16 load/store with native intrinsics

Use __lsx_vfcvtl_s_h and __lsx_vfcvt_h_s instead of scalar loops in
__lsx_f16x4_load and __lsx_f16x4_store.

* loongarch : add LSX implementation for q8_0 dot product

* loongarch : add LSX implementation for q6_K dot product

* loongarch : add LSX implementation for iq4_xs dot product

* Improve reduce ops when sun int16 pairs to int32
ggml/src/ggml-cpu/arch/loongarch/quants.c
ggml/src/ggml-cpu/simd-mappings.h