]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
llama : make cell_id const in inp_s_mask block (#9470)
authorDaniel Bevenius <redacted>
Sat, 14 Sep 2024 07:50:12 +0000 (09:50 +0200)
committerGitHub <redacted>
Sat, 14 Sep 2024 07:50:12 +0000 (10:50 +0300)
This commit makes the cell_id variable const in the inp_s_mask block.

The motivation for this change is consistency with the code in the
inp_s_copy block.

src/llama.cpp

index 65afcc84ae32623d92d54732da9a2fb49933209e..1986a90fbb983c11bc0441a7120bbc93cd8fd8f9 100644 (file)
@@ -15826,7 +15826,7 @@ static void llama_set_inputs(llama_context & lctx, const llama_ubatch & batch) {
 
             // clear unused states
             for (int i = 0; i < n_kv; ++i) {
-                uint32_t        cell_id = i + kv_self.head;
+                const uint32_t  cell_id = i + kv_self.head;
                 llama_kv_cell & kv_cell = lctx.kv_self.cells[cell_id];
 
                 data[i] = (float) (kv_cell.src >= 0);