]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
ggml : reduce hash table reset cost (llama/8698)
authorslaren <redacted>
Sat, 27 Jul 2024 02:41:55 +0000 (04:41 +0200)
committerGeorgi Gerganov <redacted>
Thu, 8 Aug 2024 19:48:46 +0000 (22:48 +0300)
commitdd916a2852899415bd82c9eb7887b856c6e9948f
treebee77fae2a65dde3b0eb382c51ced385a6cfc2ea
parent0620fe00ec24d861a056a5353da1bb1959d63fdf
ggml : reduce hash table reset cost (llama/8698)

* ggml : reduce hash table reset cost

* fix unreachable code warnings after GGML_ASSERT(false)

* GGML_ASSERT(false) -> GGML_ABORT("fatal error")

* GGML_ABORT use format string
33 files changed:
ggml/include/ggml.h
ggml/src/ggml-alloc.c
ggml/src/ggml-backend.c
ggml/src/ggml-blas.cpp
ggml/src/ggml-cuda.cu
ggml/src/ggml-cuda/argsort.cu
ggml/src/ggml-cuda/binbcast.cu
ggml/src/ggml-cuda/common.cuh
ggml/src/ggml-cuda/cpy.cu
ggml/src/ggml-cuda/dmmv.cu
ggml/src/ggml-cuda/fattn-common.cuh
ggml/src/ggml-cuda/fattn-tile-f16.cu
ggml/src/ggml-cuda/fattn-tile-f32.cu
ggml/src/ggml-cuda/fattn.cu
ggml/src/ggml-cuda/getrows.cu
ggml/src/ggml-cuda/mmq.cu
ggml/src/ggml-cuda/mmq.cuh
ggml/src/ggml-cuda/mmvq.cu
ggml/src/ggml-cuda/quantize.cu
ggml/src/ggml-cuda/rope.cu
ggml/src/ggml-impl.h
ggml/src/ggml-kompute.cpp
ggml/src/ggml-metal.m
ggml/src/ggml-quants.c
ggml/src/ggml-sycl.cpp
ggml/src/ggml-sycl/common.hpp
ggml/src/ggml-sycl/dmmv.cpp
ggml/src/ggml-sycl/dpct/helper.hpp
ggml/src/ggml-sycl/mmq.cpp
ggml/src/ggml-sycl/mmvq.cpp
ggml/src/ggml-sycl/rope.cpp
ggml/src/ggml-vulkan.cpp
ggml/src/ggml.c