]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
llama : fix progress dots (#11730)
authormagicse <redacted>
Fri, 7 Feb 2025 13:48:47 +0000 (15:48 +0200)
committerGitHub <redacted>
Fri, 7 Feb 2025 13:48:47 +0000 (15:48 +0200)
* Update llama.cpp

For display progress dots in terminal.
Without this it didn't display dots progress during loading model from file.

* Update llama.cpp

removed trailing spaces

src/llama.cpp

index 3d5a928a8e00e525cfbacb1f576d7201c8755f06..c3da3c43be7ef6c82d927d879e33690da110ad7d 100644 (file)
@@ -9428,7 +9428,6 @@ static struct llama_model * llama_model_load_from_file_impl(
         struct llama_model_params params) {
     ggml_time_init();
 
-    llama_model * model = new llama_model(params);
 
     unsigned cur_percentage = 0;
     if (params.progress_callback == NULL) {
@@ -9447,6 +9446,8 @@ static struct llama_model * llama_model_load_from_file_impl(
         };
     }
 
+    llama_model * model = new llama_model(params);
+
     // create list of devices to use with this model
     if (params.devices) {
         for (ggml_backend_dev_t * dev = params.devices; *dev; ++dev) {