ggml : improve f16 acceleration for POWER9 ppc64le

whisper : add whisper_n_audio_ctx and check for invalid audio_ctx

closes #344

models : fix typo in convert-h5-to-ggml.py

signficant -> significant

cmake : add runtime destination install (#345)

needed for mingw32 build to successfully install the dlls in the correct location

whisper : avoid some memory allocations

main : add -ocsv, aka --output-csv to output a CSV file

Adds -ocsv, aka --output-csv feature to examples/main, which outputs a CSV file containing lines formatted as follows <startTime-in-integer-milliseconds>, <endTime-in-integer-milliseconds>, "<transcript-line-including-commas>".

make : add i686 arch (close #329)

ggml : barrier refactor + static functions

ggml : simplify the SIMD code (#324)

* ggml : simplify the SIMD code

* ggml : generic reduce for all register sizes + comments

examples : fix memory leak on failure to load gpt2 model (#323)

examples : small code cleanups (#322)

- remove unnecessary initialization of string to ""
- use empty() instead of checking size()
- use emplace_back instead of push_back
- use nullptr instead of NULL
- remove unnecessary call to .data() on string
- use character overload of find_first_of() instead of passing a string

ggml : use vaddvq_f32 for slightly more efficient reduce

ggml : add f16 acceleration for POWER9 ppc64le

models : fix support for spaces in path (close #315)

whisper : use emplace_back in place of push_back (#319)

This avoids potential construction of temporaries.

whisper : fix mem leak on failure to load model (#318)

ggml : make consts static (#317)

These shouldn't be able to be referenced outside the compilation unit.

Update README.md

Add SwiftUI example links

examples : add whisper.swiftui demo app (#308)

* Add SwiftUI demo project.

* Add -DGGML_USE_ACCELERATE

Update README.md

Add bindings links / discussions

minor : small code cleanups (#302)

* Small code cleanups

- fix indentation
- remove extra semicolons
- remove extra break after returns in case statements
- remove unnecessary call to .data() on string
- use empty() instead of checking size()
- no need to check for nullptr before free
- remove unnecessary initialization of string to ""

* minor : switch case always break

Co-authored-by: Georgi Gerganov <redacted>

minor : flag "ARM FMA" -> "ARM_FMA"

Build a vfpv4 library for armeabi-v7a and do runtime detection to select the right library

Check for both __ARM_NEON and __ARM_FEATURE_FMA so that the project can be compiled for armv7a.

Android armeabi-v7a's NEON support doesn't support FMA unless configured with `-mfpu=neon-fp-armv8`, which would need runtime checks.
* Also removed ABI filter from Android project.

Bump NDK version

whisper : use nullptr (C++11) instead of NULL macro (#299)

cmake : add headers to target (#298)

This will show the header files in IDEs.

go : run `go mod tidy` before building examples + fix permissions (#296)

* run `go mod tidy` before building examples

Running `make examples` after cloning the repository gives the following
error:

```
...
[100%] Built target whisper
gmake[3]: Leaving directory '/tmp/exp/whisper.cpp/bindings/go/build'
gmake[2]: Leaving directory '/tmp/exp/whisper.cpp/bindings/go/build'
gmake[1]: Leaving directory '/tmp/exp/whisper.cpp/bindings/go/build'
Build example go-model-download
Build example go-whisper
examples/go-whisper/process.go:11:2: missing go.sum entry for module providing package github.com/go-audio/wav (imported by github.com/ggerganov/whisper.cpp/bindings/go/examples/go-whisper); to add:
        go get github.com/ggerganov/whisper.cpp/bindings/go/examples/go-whisper
make: *** [Makefile:26: examples/go-whisper] Error 1
```

* remove executable bit from various files

bindings : initial import of golang bindings (#287)

* Initial import of golang bindings

* Updated makefile rules

* Updated bindings

* Makefile update to add in more tests

Update README.md

cmake : enable and fix  -Wall -Wextra -Wpedantic C++ warnings

minor : resolves some of warnings when compiling with clang/clang++ (#294)

* Resolves some of warnings when compiling with clang/clang++

Mostly nit stuff that clang catches when compiling with -Wall -Wextra
-pedantic.

- Fix comparison between sign/unsigned integers.
- Passes a constant reference (const&) instead of copying each time.

* minor : normalize coding style

* minor : fix warning

Co-authored-by: Georgi Gerganov <redacted>

release : v1.0.4

Add AVX,AVX2 support for ggml_vec_scale_f32

make : revert accidental change of optimization flags

whisper : language auto-detect (#59)

Add Roadmap

ggml : implement ggml_compute_forward_dup_f16() special cases

main : add option to print the progress (#276)

main : add "--prompt" command line argument (#90)

This allows to provide an initial prompt to be used at the start of the
processing.

command : better indentation

command : update README, show how to use guided mode

command : adding guided mode

whisper : add whisper_tokenize()

Tokenizes a string into a list of vocabulary tokens

Update README.md (#46)

Add references to the new Android app

Add Android sample (#277)

* Add Android sample

* Use main project C files

* Stop existing playback before starting new playback

* Make text scrollable

* Stop playback when starting to record

* Remove extra var

ci : add Windows build without OpenBLAS + change to Release (#85) (#282)

whisper : improve decoding strategy (#244)

- Clear past prompt when there is very short audio left for processing.
  My observation is that in these cases the decoding tends to repeat and
  hallucinate stuff and I think this is induced by the existing prompt
- When we fail to sample timestamp token, retry by clearing the past
  prompt. If it fails again, then we advance the window by 1 second

stream : update README.md + comments

Update README.md (#56)

ggml : make more compatible with c99 (#262)

Update README.md

stream : fix build

stream : add sliding window mode

whisper : fix UB when reading buffer of length 0 bytes (#265)

ggml : fix indentation

ggml : make compatible with c99 (#262)

talk : improve prompting

release : v1.0.3

Fixed whisper.spm tests

Update README.md

release : v1.0.2

Update README.md

Update README.md

Node.js package (#260)

* npm : preparing infra for node package

* npm : package infra ready

* npm : initial version ready

* npm : change name to whisper.cpp

whisper.js is taken

talk : make compatible with c++11 (part 2)

talk : make compatible with c++11

cmake : require c++11 instead of c++20

Remove C++20 requirement (#257)

* Remove C++20 requirement

* Roll back C features not supported in VS2017

Add newline per segment for text output (#254)

bench : more concise representation of the results (#89)

minor : fix .gitignore to not ignore examples

bench.wasm : same as "bench" but runs in the browser (#89)

Update README.md

talk : fix build for MSVC

talk : talk with AI in the terminal

fix potential bug reading model data into a small size optimized string which could lead to memory corruption. In an SSO string, you can't write data to &str[0] and expect it to work well.

Also added a small wrapper function to more safely read model data without having to get the sizeof right. I tested this on tiny, base and large models, there was no change in behaviour.

whisper : minor improvemnt in decoding strategy (#244)

Do not allow for text segments to go beyond end of audio.
This partially mitigates some issues when the last audio window is 1-2
seconds just before the end of the audio file and the decoding spirals
into a repetition of the last transcribed phrase.

ggml : add alternative cblas_sgemm call

make : indentation + .gitignore

Flag for Position Independent Code

twitch.sh : various fixes and polishing

- check if streamlink is installed
- fix audio chunking
- change default threads to 4

Allow for Twitch.tv live transcription

We rely on streamlink library to give us a stream, then we proceed similarly to
the radio livestream example.

Fix paths echoed after the download

Was using models path instead of root path

fix compilation on haiku

yt-wsp.sh : improve usage instructions

yt-wsp.sh : fix usage instruction + comment

Update README.md

livestream.sh : remove obsolete comment

ggml : fix typo in previous commit

ggml : use macros to inline FP16 <-> FP32 conversions

ggml : add F16C CPU flag check

add fp16/fp32 convert intrinsics

models : add the new "large" model release by OpenAI

The old "large" model is now renamed "large-v1".
If you have been using it, make sure to rename it and download the new
"large" model for best results.

bench : add commit hash to bench-all.sh results

Try to improve the token sampling strategy (#193)

* whisper : try to improve the token sampling strategy

- Add the "max_initial_timestaamp" token logic from OpenAI
- Disallow sampling timestamps that are in the past

* whisper : fix the max initial timestamp logic + fallback decoding

tests : adding transcription tests

ggml : remove inline specifier from fp16 <-> fp32 converters

livestream : handle ffmpeg errors gracefully and stabilize transcript

livestream : minor changes

livestream : fix losing words across audio chunk (#195)

* improve livestream script

* Update examples/livestream.sh

Co-authored-by: Georgi Gerganov <redacted>
Co-authored-by: Paul Edwards <redacted>
Co-authored-by: Georgi Gerganov <redacted>