ggml : fix WASM build

talk-llama : increase context to 2048

talk-llama : update to latest llama.cpp (improved performance)

ggml : backport llama.cpp updates (close #709)

- About x2 overall performance improvement on Apple Silicon
- Results should now be the same for different number of threads (not
  tested)

whisper : add progress callback (#600)

misc : typo (#688)

talk-llama : fixing usage message for talk-llama (#687)

"-ml" instead of "-mg" for specifying the llama file

main : add <cstring> header

whisper.addon : fixed test to new async implementation (#686)

* fixed blocking code on node addon

* modify the example to run async

* format

* added logic to see the whisper output

* added logic to see the whisper output

* removed extra function for more clean example

* fixed whisper test to new async implementation

models : handle spaces and special characters in shell script paths (#677)

This commit modifies the `get_script_path` function to correctly handle
spaces and special characters in directory paths. The fix involves adding
double quotes around variables and commands where needed to ensure proper
parsing of paths with spaces and special characters.

main : fix typo in JSON output (#648)

* typo in JSON output

* fix double quotes in JSON output

whisper : add initial_prompt param (#645)

make : 32-bit ARM flags (#486)

* issue #470 - working 32-bit ARM

* Update Makefile

* Update Makefile

---------

Co-authored-by: Georgi Gerganov <redacted>

whisper.swiftui : update README.md (#682)

- Slight tweaks to README for improved comprehension.

talk-llama : add alpaca support (#668)

whisper : bump "large" scratch buffer even mode (close #671)

whisper : increase scratch buffers after recent change (#671)

Should fix the error:

ggml_new_tensor_impl: not enough space in the scratch memory

talk-llama : add discussion link

talk-llama : try to fix windows build ..

readme : add talk-llama example to the table

talk-llama : add new example + sync ggml from llama.cpp (#664)

* talk-llama : talk with LLaMA AI

* talk.llama : disable EOS token

* talk-llama : add README instructions

* ggml : fix build in debug

whisper : disable fallbacks until the performance is improved (#588)

cmake : add a flag to disable F16C (#628)

Include link to R wrapper in README (#626)

Nodejs Addon blocking main thread. Implemented Napi::AsyncWorker (#642)

* fixed blocking code on node addon

* modify the example to run async

* format

* added logic to see the whisper output

* added logic to see the whisper output

* removed extra function for more clean example

whisper.objc : add `-O3 -DNDEBUG` in release mode (#640)

fixed language auto-detection for state provided processing (#627)

Co-authored-by: Sandro Hanea <redacted>

readme : add react-native bindings (#619)

main : provide option for creating JSON output (#615)

* examples : provide option for exporting also as JSON file (ggerganov/whisper.cpp#614)

* main : remove leftovers

---------

Co-authored-by: Georgi Gerganov <redacted>

models : change default encoding to utf8 (#605)

make : fix MUSL Linux build (#576)

models : change HF hosting from dataset to model

whisper.android : support benchmark for Android example. (#542)

* whisper.android: Support benchmark for Android example.

* whisper.android: update screenshot in README.

* update: Make text selectable for copy & paste.

* Update whisper.h to restore API name

Co-authored-by: Georgi Gerganov <redacted>
* whisper.android: Restore original API names.

---------

Co-authored-by: tinoue <redacted>
Co-authored-by: Georgi Gerganov <redacted>

readme : add bench-wts.sh demo

bench-wts.sh : rename script + add execute permission

qual-bench.sh : add quality comparison tool, and update main.cpp to allow using a font file (#569)

whisper.android : enable fp16 instrinsics (FP16_VA) which is supported by ARMv8.2 or later. (#572)

whisper : add whisper_state + default state on the whisper_context (#523)

* Added whisper state + default state on the whisper_context

* Fixed some examples and bindings

* Fixed whisper_n_len (which was used in some binding) and added whisper_n_len_from_state

* Fixed comments

* whisper : reuse kv_cache_free() and fix compiler warnings

* whisper : clean-up the API comments

---------

Co-authored-by: Sandro Hanea <redacted>
Co-authored-by: Georgi Gerganov <redacted>

whisper : set no_context == true by default (#537)

go : NewContext now returns a clean context (#537)

Co-authored-by: Ming <redacted>

main : add csv header (#552)

make : add -DNDEBUG compile flag

release : v1.2.1

make : add "-mcpu=native" when building for aarch64 (#532)

readme : add pybind11 bindings (#538)

readme : add cython bindings (#9)

whisper : zero-initialize some more context variables

Just in case

whisper : fix uninitialized exp_n_audio_ctx

whisper : add API for applying custom logits filters during decoding

yt-wsp.sh : print help on empty args

whisper : by default disable non-speech tokens suppression (#473)

This seems to be causing hallucinations in the end of the audio, e.g.:

"Thank you for listening"
"Amen"
..

readme : add Ruby discussion + update .NET discussion

bindings : add Ruby (#500)

* adding ruby bindings

* avoid adding these they are copied in via extconf.rb

* ignore these files here

* add definitions for boolean params

* initial transcribe for ruby

* use en model and transcribe jfk with assertion

* possibly this works for building ruby binding

* ci : try to add ruby workflow

---------

Co-authored-by: Georgi Gerganov <redacted>

main : fix std in input (#503)

if we don't add this as an explicit check, then we get an "error: unknown argument: -" later on

examples : refactor in order to reuse code and reduce duplication (#482)

* examples : refactor common code into a library

* examples : refactor common SDL code into a library

* make : update Makefile to use common libs

* common : fix MSVC M_PI ..

* addon.node : link common lib

whisper : fix signedness compiler warning (#506)

yt-wsp.sh : add unique filename generation (#495)

Co-authored-by: genevera <redacted>

readme : add another .NET repo (#303)

readme : add .NET repo (#303)

cmake : install whisper.h header (#485)

Including the header file in the install bundle helps projects that ship binaries.

whisper : suppress non-speech-related token outputs (#473)

* add non-speech-token suppression

* add suppress non-speech_tokens param

whisper : fixed Beam Search Strategy and exposed whisper_pcm_to_mel_phase_vocoder (#474)

Co-authored-by: Sandro Hanea <redacted>

whisper : only trim if split_on_word is true (#476)

ci : add node addon test and optimize compilation configuration (#468)

* addon: implement node addon call whisper through cpp

* addon: modify the license to MIT

* addon: remove iostream

* addon: rename dir

* addon: fix typo

* addon: configure cmake to build when cmake-js is used

* ci: add addon.node test ci

* addon: remove build WHISPER_BUILD_TESTS

* addon: update build command

* addon: add test

* addon: add test file

* addon: adapt to compile on Windows

* addon: fix typo

* addon: reuse jfk.wav

Co-authored-by: Georgi Gerganov <redacted>
* addon: reuse jfk.wav

---------

Co-authored-by: Georgi Gerganov <redacted>

whisper : add whisper_full_lang_id() for getting the context lang (#461)

whisper : add "split_on_word" flag when using using "max_len" option (#455)

* Update whisper.cpp

* fix: trim function

* feat: added flag to split on word

* fix: arguments for main

release : v1.2.0

whisper : reduce memory usage during inference (#431)

* ggml : add "scratch" buffer support

* ggml : support for scratch ring-buffer

* ggml : bug fix in ggml_repeat()

* ggml : error on scratch buffer overflow

* whisper : use scratch buffers during inference (base model only)

* whisper : update memory usage for all models

* whisper : fix encoder memory usage

* whisper : use whisper_context functions instead of macros

* whisper : fix FF + remove it from README

* ggml : reuse ggml_new_i32

* ggml : refactor the scratch buffer storage

* whisper : reorder scratch buffers in the decoder

* main : add option to disable temp fallback

* Update README.md

addon.node : using whisper as a Node.js addon (#443)

* addon: implement node addon call whisper through cpp

* addon: modify the license to MIT

* addon: remove iostream

* addon: rename dir

* addon: fix typo

* addon: configure cmake to build when cmake-js is used

go : support "auto" as an option when set language (#462)

Co-authored-by: Ming <redacted>

whisper : suppress task tokens (#442)

wasm : fix typo in helper.js (#459)

main : CSV format export trimmed spaces fix (#444)

* Update main.cpp

Removed string trimming

* Update main.cpp

* Update main.cpp

* Revert "Update main.cpp"

This reverts commit d8924fdcfe8a2980db0af47d42ec206fc1a3e9d0.

* Revert "Update main.cpp"

This reverts commit 252e508d8597231c61380ebea42b3707714345cc.

go : add wrapper for system info (#456)

go : add WhisperLangAutoDetect method to go binding (#451)

livestream.sh : run main with model arg instead of default (#453)

Actually utilizes the $model var when calling ./main.

whisper : do not provide past prompt when n_max_text_ctx == 0

wasm : check if navigator.storage.estimate() is available

Safari does not support it

go : added wrappers to reset and print timings (#436)

ci : run workflows on pull requests + bindings depend on .h (#446)

whisper.wasm : add labels for easier radio selection (#435)

whisper : condition timestamps to be monotonically increasing (#425)

whisper : PPC64 big-endian support (#398)

* ggml : set cache line size to 128 on POWER9

* whisper : add PPC64 big endian support

release : v1.1.1

.gitignore : add arm_neon.h

whisper : fix condition for providing past prompt (critical)

This bug has been present since v1.1.0.

Effectively, the past transcribed text wasn't being used for following
transcriptions, which likely significantly reduces the transcription
quality.

Likely related to #419

whisper : extend information in whisper_print_timings()

whisper : perform entropy check only when we have at least 32 tokens (#412)

main : we had accidentally disabled the temperature fallback .. (#291)

whisper.wasm : add small and small.en models

bench : minor fixes

main : add an option to accept optional output filenames (#424)

* Add an option to accept optional output filenames

* Format the file

Co-authored-by: Chia-Hsiang Cheng <redacted>

stream : fix handling of --step == --length (#416)

bench : fix Windows linkage by moving ggml benches in whisper lib ..

bench : add memcpy and ggml_mul_mat benchmarks

whisper.android : add support for loading directly from asset in C (#415)

whisper : fix possible uninitialized variables (#291)

stream : fix --keep_context argument to be used correctly (#354)

go : remove sample_best and sample_timestamp bindings (#409)

Update README.md