]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml-cpu: Optimized x86 and generic cpu q1_0 dot (follow up) (llama/21636)
authorpl752 <redacted>
Mon, 20 Apr 2026 16:02:54 +0000 (21:02 +0500)
committerGeorgi Gerganov <redacted>
Thu, 30 Apr 2026 08:29:14 +0000 (11:29 +0300)
commit2b9fb0be770f188e9d6b506403e3f3606f8a66dc
tree1d34b37a9c2af3fda6dbfac023b115041c2ce207
parent5f21fdcbb9400721732c161e4b04174e5d8625db
ggml-cpu: Optimized x86 and generic cpu q1_0 dot (follow up) (llama/21636)

* Implemented optimized q1_0 dot for x86 and generic

* Removed redundant helper definition

* Removed two redundant instructions from AVX q1_0 dot

* Fixed inconsistency with fp16 conversion for generic q1_0 dot and deduplicated generic fallback

* Style cleanup around AVX q1_0 dot

* Replaced explicitly unrolled blocks with inner for loop for q1_0

* Replaced scalar ARM q1_0 impl with new generic one
ggml/src/ggml-cpu/arch-fallback.h
ggml/src/ggml-cpu/arch/arm/quants.c
ggml/src/ggml-cpu/arch/x86/quants.c
ggml/src/ggml-cpu/quants.c