]> git.djapps.eu Git - pkg/ggml/sources/ggml/commit
HIP: Refactor mma for RDNA and CDNA (llama/17990)
authoryulo <redacted>
Wed, 17 Dec 2025 08:34:54 +0000 (16:34 +0800)
committerGeorgi Gerganov <redacted>
Wed, 31 Dec 2025 10:39:43 +0000 (12:39 +0200)
commit0b2b21f7390fb10ae779261cb718ff35587a9cdc
tree246fed33e6685c699c8098677f6d2dd2ad2a8c83
parentac0c8be49c7458bcc6eae164244d7335ce9cc184
HIP: Refactor mma for RDNA and CDNA (llama/17990)

* mma.cuh for rdna4

* mma for rdna3

* mmq for rdna4

* mmq for rdna3

* align i-major and j-major

* cdna

* fix cuda error

* add missing tile of mfma

* fix j-major wrong ne on CDNA

* fix gramma and empty spaces

---------

Co-authored-by: zhang hui <redacted>
src/ggml-cuda/mma.cuh
src/ggml-cuda/mmf.cuh
src/ggml-cuda/mmq.cuh