]> git.djapps.eu Git - pkg/ggml/sources/ggml/commitdiff
ggml : fix another case of quants nans (llama/7387)
authorslaren <redacted>
Sun, 19 May 2024 15:08:46 +0000 (17:08 +0200)
committerGeorgi Gerganov <redacted>
Tue, 28 May 2024 11:41:08 +0000 (14:41 +0300)
src/ggml-quants.c

index 7008e5d8b6c0d62d56aa421240351d99ef73493e..ff105986381698ba2c75af1fcca8ba98314ec458 100644 (file)
@@ -1149,7 +1149,7 @@ static float make_qx_quants(int n, int nmax, const float * restrict x, int8_t *
         sumlx += w*x[i]*l;
         suml2 += w*l*l;
     }
-    float scale = sumlx/suml2;
+    float scale = suml2 ? sumlx/suml2 : 0.0f;
     if (return_early) return suml2 > 0 ? 0.5f*(scale + 1/iscale) : 1/iscale;
     float best = scale * sumlx;
     for (int is = -9; is <= 9; ++is) {