]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
baby-llama : fix operator!= (#1821)
author0xspringtime <redacted>
Tue, 13 Jun 2023 19:37:54 +0000 (15:37 -0400)
committerGitHub <redacted>
Tue, 13 Jun 2023 19:37:54 +0000 (22:37 +0300)
* Update baby-llama.cpp

Seems to be an error in the implementation of the operator!= function. It attempts to compare the this pointer (a llama_hparams_lora object) with the other pointer (a llama_hparams object) using memcmp. This can lead to incorrect results because the sizes of the objects being compared (sizeof(llama_hparams) and sizeof(llama_hparams_lora)) are different, should now be able to compare two llama_hparams_lora objects for inequality.

* Update baby-llama.cpp

* Update baby-llama.cpp

examples/baby-llama/baby-llama.cpp

index e5639da37e5769fa27bd9bbf5cf7eb8abb198724..0add6adc0c878a2671532975c2ffa549b81490ea 100644 (file)
@@ -153,8 +153,8 @@ struct llama_hparams_lora {
     uint32_t n_rot   = 64;
     uint32_t n_lora  = 64;
 
-    bool operator!=(const llama_hparams & other) const {
-        return memcmp(this, &other, sizeof(llama_hparams));
+    bool operator!=(const llama_hparams_lora & other) const {
+        return memcmp(this, &other, sizeof(llama_hparams_lora)) != 0;
     }
 };