]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
vulkan : fix Qantized Mat-Vec Mul on AMD GPUs for ncols < 64 (llama/8855)
author0cc4m <redacted>
Mon, 5 Aug 2024 05:52:55 +0000 (07:52 +0200)
committerGeorgi Gerganov <redacted>
Thu, 8 Aug 2024 10:45:29 +0000 (13:45 +0300)
commita3b2059cacacd97985b4d814f464779d6e1545f2
treed56d749155bde2a6b6bc6f73192526fe0b20d535
parent1fb1c9d94598bb57ebbc48c08b002ecbc1a2fbfc
vulkan : fix Qantized Mat-Vec Mul on AMD GPUs for ncols < 64 (llama/8855)

* Fix Vulkan mul mat vec invalid results when ncols < warp size

* Only run backend ops mul mat vec block size test if block size not already covered
tests/test-backend-ops.cpp