]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
kv-cache : use ggml_set_rows (llama/14285)
authorGeorgi Gerganov <redacted>
Thu, 3 Jul 2025 07:53:35 +0000 (10:53 +0300)
committerGeorgi Gerganov <redacted>
Sat, 12 Jul 2025 16:23:56 +0000 (19:23 +0300)
commited639c7f2286bd5b8dd2427dd57832fb613d1510
tree00744e72f84af92a1d5781fd5cac860cda016456
parent0abd0660e14b828b31cf05da1f364c7474f03287
kv-cache : use ggml_set_rows (llama/14285)

* kv-cache : use ggml_set_rows

ggml-ci

* graph : separate k and v indices

ggml-ci

* cont : remove redundant ifs

ggml-ci

* kv-cache : improve find_slot impl

* kv-cache : bounds-check when accessing slot_info indices

* kv-cache : add comments

ggml-ci

* ggml : add TODOs for adding GGML_OP_SET_ROWS support in the backends

ggml-ci
ggml/src/ggml-cann/ggml-cann.cpp
ggml/src/ggml-opencl/ggml-opencl.cpp
ggml/src/ggml-sycl/ggml-sycl.cpp
ggml/src/ggml-vulkan/ggml-vulkan.cpp