]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : add SSE3 and fp16 conversion lookup table (#368)
authorAbitofevrything <redacted>
Fri, 6 Jan 2023 16:45:59 +0000 (17:45 +0100)
committerGitHub <redacted>
Fri, 6 Jan 2023 16:45:59 +0000 (18:45 +0200)
commita62170c6562e7b75615ea350ab72f5c1e5b8d74e
tree32ef39a0a93c5fb24dc2a6f5910a4ba3ce59b983
parent1944e7c33e611400c39436245cbbf9336a764c76
ggml : add SSE3 and fp16 conversion lookup table (#368)

* Improves WASM performance:
  On MacBook M1 Pro, I observe 25% faster using Firefox and 35% faster using Chrome

* Add support for SSE3 SIMD

* Add SSE3 to system information

* Add Imath support for fp16-fp32 conversions

* Add Imath to system information

* Wrap Imath calls to avoid static function warnings

* Drop Imath; Add lookup table for f16 -> f32 conversions

* Remove TODO comments

* Update SSE3 to new macro arguments

* Correct updated macro definitions

* Prefer static inline where possible

* ggml : static inlines + add public f16 <-> f32 conversions

Co-authored-by: Georgi Gerganov <redacted>
Makefile
ggml.c
ggml.h
whisper.cpp