]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
cuda : CUDA Graph Compute Function Refactor (precursor for performance improvements...
authorAndreas Kieslinger <redacted>
Mon, 13 Jan 2025 15:45:53 +0000 (16:45 +0100)
committerGitHub <redacted>
Mon, 13 Jan 2025 15:45:53 +0000 (16:45 +0100)
commit39509fb082895d1eae2486f8ad2cbf0e905346c4
tree191972a2e87e6ddbe51146a70903d6d029ce408d
parenta29f0870d4846f52eda14ae28cea612ab66d903c
cuda : CUDA Graph Compute Function Refactor (precursor for performance improvements) (#11042)

* Refactor: Moves cuda graph executable update step to separate function.

* Refactor: Moves cuda graph update check to separate function.

* Refactor: Moves cuda graph maintenance (update or adjusting copy parameters) to separate function for improved readability.

* Fix: Adds missing reference to maintain_cuda_graph() definition.

* Refactor: Improves structure and abstractions by moving CUDA graph evaluation and capture to its own function.

* Refactor: Moves node graph checks and copy ops into individual function for improved readability.

* Refactor: Removes code permanently excluded from compilation to increase readability.

* Style: Adds missing newline

* Style: Consolidates several neighboring '#ifdef USE_CUDA_GRAPH' into a single one

* Refactor: Makes 'cuda_graph_update_required' a local variable

* remove double lines between functions

---------

Co-authored-by: slaren <redacted>
ggml/src/ggml-cuda/ggml-cuda.cu