]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
Vulkan Improvements (llama/5835)
author0cc4m <redacted>
Tue, 5 Mar 2024 12:33:42 +0000 (13:33 +0100)
committerGeorgi Gerganov <redacted>
Fri, 8 Mar 2024 09:38:33 +0000 (11:38 +0200)
commit9c399689ece57c0aaafe808a1b66226eea3684fe
treee4346b0d638ed8a13c45be6d65e9837829362358
parent9d9a405cfd2468b2ea308f8eee492ddcd71ebd07
Vulkan Improvements (llama/5835)

* Improve dequant shaders, add fast q4_0 dequant

* Optimize dmmv non-kquants for GCN

Remove unnecessary SPIR-V shader duplication

* Fix q4_0 dequant dispatch sizes

Fix backend free bug

* Optimize dequant shaders for q4_1, q5_0, q5_1 and q8_0

* Add unary and binary op shader templates

* Fix Vulkan check results

* Enable non-contiguous support for simple ops

* Add argsort

Basic q4_0 mmq shader and unit test

* Speed up q4_0 dequant code, enable mmq for q4_0

* Rework matmul pipeline selection

* Add soft_max alibi support

* Add q4_1, q5_0, q5_1 and q8_0 dequant mat mat mul shaders

* Add environment variable GGML_VK_FORCE_MAX_ALLOCATION_SIZE to limit max buffer size

Rename GGML_VULKAN_DISABLE_F16 to GGML_VK_DISABLE_F16 for consistency
ggml-vulkan.cpp
ggml-vulkan.h