]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
sycl : fix for untransposed GDA recurrent state (#20583)
authorSigbjørn Skjæret <redacted>
Sun, 15 Mar 2026 18:10:15 +0000 (19:10 +0100)
committerGitHub <redacted>
Sun, 15 Mar 2026 18:10:15 +0000 (19:10 +0100)
ggml/src/ggml-sycl/gated_delta_net.cpp

index 8c76afbd5715d61d0c3033925be0dfd8a006a2cd..648455c134b1d4e7cf9eae3f75ad803442a4e9e8 100644 (file)
@@ -55,7 +55,7 @@ void gated_delta_net_sycl(const float *     q,
 #pragma unroll
     for (int r = 0; r < rows_per_lane; r++) {
         const int i = r * warp_size + lane;
-        s_shard[r]  = curr_state[i * S_v + col];
+        s_shard[r]  = curr_state[col * S_v + i];
     }
 
     for (int t = 0; t < n_tokens; t++) {
@@ -137,7 +137,7 @@ void gated_delta_net_sycl(const float *     q,
 #pragma unroll
     for (int r = 0; r < rows_per_lane; r++) {
         const int i          = r * warp_size + lane;
-        state[i * S_v + col] = s_shard[r];
+        state[col * S_v + i] = s_shard[r];
     }
 }