]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
Fix ggml_init_params in quantize
authorSlaren <redacted>
Wed, 29 Mar 2023 03:38:57 +0000 (05:38 +0200)
committerJustine Tunney <redacted>
Thu, 30 Mar 2023 19:28:25 +0000 (12:28 -0700)
examples/quantize/quantize.cpp
llama.cpp

index b444328acc6aa772b4fa71ca3fc350d1997545b6..680757c6bf35616429ebeedc657f52b36a2a33b5 100644 (file)
@@ -19,7 +19,7 @@ int main(int argc, char ** argv) {
 
     // needed to initialize f16 tables
     {
-        struct ggml_init_params params = { 0, NULL };
+        struct ggml_init_params params = { 0, NULL, false };
         struct ggml_context * ctx = ggml_init(params);
         ggml_free(ctx);
     }
index d7126f459d512a99aaf41b5c73c9a38652790dd1..1adeee5f0fb9c9b62f1252a30417fc7fec07d93b 100644 (file)
--- a/llama.cpp
+++ b/llama.cpp
@@ -315,7 +315,6 @@ void * mmap_file(const char* fname) {
 #endif
 }
 
-
 static bool llama_model_load(
         const std::string & fname,
         llama_context & lctx,
@@ -489,8 +488,6 @@ static bool llama_model_load(
         }
     }
 
-
-
     auto & ctx = model.ctx;
 
     size_t ctx_size = 0;