]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
Vulkan Intel Fixes, Optimizations and Debugging Flags (llama/5301)
author0cc4m <redacted>
Sat, 3 Feb 2024 17:15:00 +0000 (18:15 +0100)
committerGeorgi Gerganov <redacted>
Sat, 10 Feb 2024 07:30:57 +0000 (09:30 +0200)
commit1ccfd37f8004f6b579b80ecc5ac09746233784e7
tree529932b044809f7d79ca4a4e318cde99a10197ab
parentdd3bdf0dc6a24854b0505f3310668a6bcb48bea2
Vulkan Intel Fixes, Optimizations and Debugging Flags (llama/5301)

* Fix Vulkan on Intel ARC

Optimize matmul for Intel ARC

Add Vulkan dequant test

* Add Vulkan debug and validate flags to Make and CMakeLists.txt

* Enable asynchronous transfers in Vulkan backend

* Fix flake8

* Disable Vulkan async backend functions for now

* Also add Vulkan run tests command to Makefile and CMakeLists.txt
ggml-vulkan.cpp