whisper : fix bug from previous commit

whisper : avoid designated initializers

minor : improve C++ and Python style (#768)

* use some STL functions

* use self.field than setattr, use pathlib.Path

* recover some format

* const some iter

* Keep the original

* 2 space

readme : add logo

main : escape quotes in csv output (#815)

stream : flush upon finishing inference (#811)

examples : add missing #include <cstdint> (#798)

common.cpp uses uint8_t and uint64_t, which are defined in <cstdint>.

main : update escape_double_quotes() function (#776)

Updated the escape_double_quotes() function such that the function now escapes both double quotes and backslashes in the input string.

Changes Made:

- Renamed the function to escape_quotes_and_backslashes

- Modified the condition in the first loop to increment the value of 'escaped_length' for both double quotes and backslashes.

- Modified the condition in second loop to add a backslash before the current character if it is a double quote or a backslash.

Resolves: #769

release : v1.3.0

whisper : pad audio instead of spectrogram (#579)

Also, fallback only if more temperatures are available and if we are
at least 3 seconds before the end of the audio

whisper : restore decoder temperature fallbacks

I disabled this because there were many complaints about slow decoding.
The current implementation does not allow batching the decoders when
using the "best of" or "beam size" parameters, so the decoding time is
proportional to the number of decoders, which is obviously not great.

However, now there are even more complaints about wrong decodings and
repetition.

So, making a compromise by re-enabling the fallbacks, but defaulting to
just 2 "best of" / "beam size" decoders. Also, the temperature step is
increased from 0.2 to 0.4 - i.e. from maximum of 5 fallbacks to maximum
of 2.

Also, the stream example now has fallbacks enabled by default.

close #471 #477 #508 #612 #719 #731

ggml, ci : fix build on whisper.android (ARM_NEON) + add CI (#764)

* ggml : fix undefined symbol by remove inline handle

* ggml : make own ggml_aligned_malloc function

* ci: add ios/android build

whisper : slightly faster Log Mel computation + n-1 FFT threads (#568)

readme : fix link

readme : add usage instructions for Core ML

whisper : add Core ML support (#566)

* coreml : use Core ML encoder inference

* coreml : simlpify whisper_encode + log messages

* whisper : resolve rebase conflicts

* coreml : add scripts for CoreML model generation

* bench-all : recognize COREML flag

whisper : do not launch log_mel threads when n_thread is 1 (#763)

whisper : fix the bug related to word splitting errors in the "tokenize" function. (#760)

Co-authored-by: AfryMask <redacted>

readme : add SwiftWhisper to listed bindings (#755)

gitignore : add .test

whisper : fix potential memory leaks (#740)

* fix potential memory leak if whisper_init_state failed

* fix potential memory leak if gpt2_init failed

license : update year (#739)

whisper : fix typos in whisper.h (#737)

Fixed a couple of typos (in comments, so nothing major). Keep up the great work 😄

stream : support language auto-detect (#501)

#445  fix Language auto-detect "auto" flag does not work using the stream tool

readme : add unity bindings (#733)

talk, talk-llama : add basic example script for eleven-labs tts (#728)

models : change convert-pt-to-ggml to use .tiktoken tokenizer files (#725)

cmake : add msvc compiler args /utf-8 fix error C3688 (#721)

* force msvc compiler use utf-8 encode

* only enable on msvc

talk-llama : correct default speak.sh path (#720)

There is `speak.sh` file in `./examples/talk-llama` as described in README.
However `./examples/talk/speak.sh` is used in `talk-llama.cpp`, this commit corrects that.

main : add lrc output support (#718)

* add lrc output support.

* fix wrong comment

readme : make the quick start instructions clearer. (#716)

Users wanting to make use of this implementation of the whisper model with no prior knowledge of C/C++ may download the Whisper model but fail to use of the "make" command as specified given that they forgot or didn't know they needed to clone the repository first. Hope this modification clears things up.

make : disable avx in case f16c is not available (#706)

Why:

* ggml.c does not support AVX without F16C

readme : add shell command example for --print-colors (#710)

The section of the readme file explaining `--print-colors` includes only a screenshot with directories that are inconsistent with other examples. This commit adds an example shell command, consistent with the remaining examples.

ggml : sync latest ggml

whisper : fix bug in prompt processing (close #705)

Was dereferencing a dangling pointer

go : exposed various parts to the Go Interface (#697)

ggml : fix q4_1 dot product types (#759)

Co-authored-by: Georgi Gerganov <redacted>

ggml : sync latest changes from ggml and llama.cpp

ggml : fix WASM build

talk-llama : increase context to 2048

talk-llama : update to latest llama.cpp (improved performance)

ggml : backport llama.cpp updates (close #709)

- About x2 overall performance improvement on Apple Silicon
- Results should now be the same for different number of threads (not
  tested)

whisper : add progress callback (#600)

misc : typo (#688)

talk-llama : fixing usage message for talk-llama (#687)

"-ml" instead of "-mg" for specifying the llama file

main : add <cstring> header

whisper.addon : fixed test to new async implementation (#686)

* fixed blocking code on node addon

* modify the example to run async

* format

* added logic to see the whisper output

* added logic to see the whisper output

* removed extra function for more clean example

* fixed whisper test to new async implementation

models : handle spaces and special characters in shell script paths (#677)

This commit modifies the `get_script_path` function to correctly handle
spaces and special characters in directory paths. The fix involves adding
double quotes around variables and commands where needed to ensure proper
parsing of paths with spaces and special characters.

main : fix typo in JSON output (#648)

* typo in JSON output

* fix double quotes in JSON output

whisper : add initial_prompt param (#645)

make : 32-bit ARM flags (#486)

* issue #470 - working 32-bit ARM

* Update Makefile

* Update Makefile

---------

Co-authored-by: Georgi Gerganov <redacted>

whisper.swiftui : update README.md (#682)

- Slight tweaks to README for improved comprehension.

talk-llama : add alpaca support (#668)

whisper : bump "large" scratch buffer even mode (close #671)

whisper : increase scratch buffers after recent change (#671)

Should fix the error:

ggml_new_tensor_impl: not enough space in the scratch memory

talk-llama : add discussion link

talk-llama : try to fix windows build ..

readme : add talk-llama example to the table

talk-llama : add new example + sync ggml from llama.cpp (#664)

* talk-llama : talk with LLaMA AI

* talk.llama : disable EOS token

* talk-llama : add README instructions

* ggml : fix build in debug

whisper : disable fallbacks until the performance is improved (#588)

cmake : add a flag to disable F16C (#628)

Include link to R wrapper in README (#626)

Nodejs Addon blocking main thread. Implemented Napi::AsyncWorker (#642)

* fixed blocking code on node addon

* modify the example to run async

* format

* added logic to see the whisper output

* added logic to see the whisper output

* removed extra function for more clean example

whisper.objc : add `-O3 -DNDEBUG` in release mode (#640)

fixed language auto-detection for state provided processing (#627)

Co-authored-by: Sandro Hanea <redacted>

readme : add react-native bindings (#619)

main : provide option for creating JSON output (#615)

* examples : provide option for exporting also as JSON file (ggerganov/whisper.cpp#614)

* main : remove leftovers

---------

Co-authored-by: Georgi Gerganov <redacted>

models : change default encoding to utf8 (#605)

make : fix MUSL Linux build (#576)

models : change HF hosting from dataset to model

whisper.android : support benchmark for Android example. (#542)

* whisper.android: Support benchmark for Android example.

* whisper.android: update screenshot in README.

* update: Make text selectable for copy & paste.

* Update whisper.h to restore API name

Co-authored-by: Georgi Gerganov <redacted>
* whisper.android: Restore original API names.

---------

Co-authored-by: tinoue <redacted>
Co-authored-by: Georgi Gerganov <redacted>

readme : add bench-wts.sh demo

bench-wts.sh : rename script + add execute permission

qual-bench.sh : add quality comparison tool, and update main.cpp to allow using a font file (#569)

whisper.android : enable fp16 instrinsics (FP16_VA) which is supported by ARMv8.2 or later. (#572)

whisper : add whisper_state + default state on the whisper_context (#523)

* Added whisper state + default state on the whisper_context

* Fixed some examples and bindings

* Fixed whisper_n_len (which was used in some binding) and added whisper_n_len_from_state

* Fixed comments

* whisper : reuse kv_cache_free() and fix compiler warnings

* whisper : clean-up the API comments

---------

Co-authored-by: Sandro Hanea <redacted>
Co-authored-by: Georgi Gerganov <redacted>

whisper : set no_context == true by default (#537)

go : NewContext now returns a clean context (#537)

Co-authored-by: Ming <redacted>

main : add csv header (#552)

make : add -DNDEBUG compile flag

release : v1.2.1

make : add "-mcpu=native" when building for aarch64 (#532)

readme : add pybind11 bindings (#538)

readme : add cython bindings (#9)

whisper : zero-initialize some more context variables

Just in case

whisper : fix uninitialized exp_n_audio_ctx

whisper : add API for applying custom logits filters during decoding

yt-wsp.sh : print help on empty args

whisper : by default disable non-speech tokens suppression (#473)

This seems to be causing hallucinations in the end of the audio, e.g.:

"Thank you for listening"
"Amen"
..

readme : add Ruby discussion + update .NET discussion

bindings : add Ruby (#500)

* adding ruby bindings

* avoid adding these they are copied in via extconf.rb

* ignore these files here

* add definitions for boolean params

* initial transcribe for ruby

* use en model and transcribe jfk with assertion

* possibly this works for building ruby binding

* ci : try to add ruby workflow

---------

Co-authored-by: Georgi Gerganov <redacted>

main : fix std in input (#503)

if we don't add this as an explicit check, then we get an "error: unknown argument: -" later on

examples : refactor in order to reuse code and reduce duplication (#482)

* examples : refactor common code into a library

* examples : refactor common SDL code into a library

* make : update Makefile to use common libs

* common : fix MSVC M_PI ..

* addon.node : link common lib

whisper : fix signedness compiler warning (#506)

yt-wsp.sh : add unique filename generation (#495)

Co-authored-by: genevera <redacted>

readme : add another .NET repo (#303)

readme : add .NET repo (#303)

cmake : install whisper.h header (#485)

Including the header file in the install bundle helps projects that ship binaries.

whisper : suppress non-speech-related token outputs (#473)

* add non-speech-token suppression

* add suppress non-speech_tokens param

whisper : fixed Beam Search Strategy and exposed whisper_pcm_to_mel_phase_vocoder (#474)

Co-authored-by: Sandro Hanea <redacted>