]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commit
HIP: Refactor mma for RDNA and CDNA (llama/17990)
authoryulo <redacted>
Wed, 17 Dec 2025 08:34:54 +0000 (16:34 +0800)
committerGeorgi Gerganov <redacted>
Wed, 31 Dec 2025 15:52:09 +0000 (17:52 +0200)
commit9118c05dc4c12c04db9bf9ee32610c6019452ff1
tree8cca312db15828b64d91c10361e634e724dedb60
parent6114e692136bea917dc88a5eb2e532c3d133d963
HIP: Refactor mma for RDNA and CDNA (llama/17990)

* mma.cuh for rdna4

* mma for rdna3

* mmq for rdna4

* mmq for rdna3

* align i-major and j-major

* cdna

* fix cuda error

* add missing tile of mfma

* fix j-major wrong ne on CDNA

* fix gramma and empty spaces

---------

Co-authored-by: zhang hui <redacted>
ggml/src/ggml-cuda/mma.cuh
ggml/src/ggml-cuda/mmf.cuh
ggml/src/ggml-cuda/mmq.cuh