]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
metal : fix warnings (skipme) (#0)
authorGeorgi Gerganov <redacted>
Sat, 11 May 2024 18:36:20 +0000 (21:36 +0300)
committerGeorgi Gerganov <redacted>
Sat, 11 May 2024 18:38:13 +0000 (21:38 +0300)
ggml-metal.metal
scripts/sync-ggml.last

index 0c6d32798765283817abd4558d5904e3ec5c032e..7af4e8f9342e7ae3f079ed41a3c51ce2a6469fa2 100644 (file)
@@ -2217,7 +2217,7 @@ kernel void kernel_flash_attn_ext_f16(
 
         // ALiBi
         if (max_bias > 0.0f) {
-            const short h = iq2;
+            const uint32_t h = iq2;
 
             const float base = h < n_head_log2 ? m0 : m1;
             const int   exph = h < n_head_log2 ? h + 1 : 2*(h - n_head_log2) + 1;
@@ -2473,7 +2473,7 @@ kernel void kernel_flash_attn_ext_vec_f16(
 
     // ALiBi
     if (max_bias > 0.0f) {
-        const short h = iq2;
+        const uint32_t h = iq2;
 
         const float base = h < n_head_log2 ? m0 : m1;
         const int   exp  = h < n_head_log2 ? h + 1 : 2*(h - n_head_log2) + 1;
index 46b874c642dc3c52ba07cbd1e6a8981113bf623a..1ea32042927fcaaa629b77e229766f8a25a288f5 100644 (file)
@@ -1 +1 @@
-d2ad1793f45922665c99f5cf4244dcab77e16c00
+30f54cbb3ada3e4c5bc6924de3e5918e5be4ff11