]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
Vulkan Improvements (llama/5835)
author0cc4m <redacted>
Tue, 5 Mar 2024 12:33:42 +0000 (13:33 +0100)
committerGeorgi Gerganov <redacted>
Fri, 8 Mar 2024 09:31:01 +0000 (11:31 +0200)
commit5331e80bd882cb0f4cd9a956f252d9e3f6588cfe
treeea9e7d2274822af38e840a7e18afec390415eabb
parentb79316303b3aead0ac0fe37b04912cfb3a05e281
Vulkan Improvements (llama/5835)

* Improve dequant shaders, add fast q4_0 dequant

* Optimize dmmv non-kquants for GCN

Remove unnecessary SPIR-V shader duplication

* Fix q4_0 dequant dispatch sizes

Fix backend free bug

* Optimize dequant shaders for q4_1, q5_0, q5_1 and q8_0

* Add unary and binary op shader templates

* Fix Vulkan check results

* Enable non-contiguous support for simple ops

* Add argsort

Basic q4_0 mmq shader and unit test

* Speed up q4_0 dequant code, enable mmq for q4_0

* Rework matmul pipeline selection

* Add soft_max alibi support

* Add q4_1, q5_0, q5_1 and q8_0 dequant mat mat mul shaders

* Add environment variable GGML_VK_FORCE_MAX_ALLOCATION_SIZE to limit max buffer size

Rename GGML_VULKAN_DISABLE_F16 to GGML_VK_DISABLE_F16 for consistency
src/ggml-vulkan.cpp
src/ggml-vulkan.h