]> git.djapps.eu Git - pkg/ggml/sources/ggml/commitdiff
CUDA: fix compilation on CC 6.0 (llama/16091)
authorJohannes Gäßler <redacted>
Thu, 18 Sep 2025 17:28:32 +0000 (19:28 +0200)
committerGeorgi Gerganov <redacted>
Sat, 20 Sep 2025 10:33:50 +0000 (13:33 +0300)
src/ggml-cuda/fattn-tile.cu

index a2d9951ea56a729b058682f484d06ce16d9d3646..131a5099a3b07d1d502114abb75cef9aab5a8bfc 100644 (file)
@@ -35,7 +35,6 @@ static int fattn_tile_get_kq_stride_host(const int D, const int ncols, const int
         switch (D) {
             case 64:
             case 128:
-                return 128;
             case 256:
                 return ncols <= 16 ? 128 : 64;
             default:
@@ -86,7 +85,6 @@ static constexpr __device__ int fattn_tile_get_kq_stride_device(int D, int ncols
     switch (D) {
         case 64:
         case 128:
-            return 128;
         case 256:
             return ncols <= 16 ? 128 : 64;
         default: