]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : add some lsx support (llama/23798)
authorJinyang He <redacted>
Sat, 30 May 2026 08:53:26 +0000 (16:53 +0800)
committerGeorgi Gerganov <redacted>
Mon, 8 Jun 2026 11:36:36 +0000 (14:36 +0300)
commit64b0d6b7fca11e62ef705127ec63fafdf0800a1e
treecc24b32facb2d0965d2db0d9fd256f5192e2879a
parent4317ddbe2b0fa7f436593658c8252469e598b36a
ggml : add some lsx support (llama/23798)

* loongarch : optimize LSX fp16 load/store with native intrinsics

Use __lsx_vfcvtl_s_h and __lsx_vfcvt_h_s instead of scalar loops in
__lsx_f16x4_load and __lsx_f16x4_store.

* loongarch : add LSX implementation for q8_0 dot product

* loongarch : add LSX implementation for q6_K dot product

* loongarch : add LSX implementation for iq4_xs dot product

* Improve reduce ops when sun int16 pairs to int32
ggml/src/ggml-cpu/arch/loongarch/quants.c
ggml/src/ggml-cpu/simd-mappings.h