]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commit
ggml-cuda : restore prop.integrated on HIP builds (#24233)
authorliminfei-amd <redacted>
Thu, 16 Jul 2026 09:10:08 +0000 (17:10 +0800)
committerGitHub <redacted>
Thu, 16 Jul 2026 09:10:08 +0000 (11:10 +0200)
commitc7d8722922a2599dc4d77f8808d8e6c2fde5e7a2
tree38af83b5a04e0d464ffc52c4ce8a81f307249b40
parent5839ba352471b2a7b45e7ba401619a6896f10f8b
ggml-cuda : restore prop.integrated on HIP builds (#24233)

PR #16308 set info.devices[id].integrated = false unconditionally for all
CUDA/HIP devices as a workaround for corrupted output on Jetson Orin
(#15034). On HIP/ROCm the device's real hipDeviceProp_t.integrated flag is
needed: with the cached field forced to false, supports_buft() refuses
CUDA host buffers on AMD APU/UMA parts, while get_type() already reads
prop.integrated (#23007) — an inconsistency that breaks integrated-GPU
host-buffer use on ROCm.

Guard the workaround so it only applies to non-HIP (CUDA) builds and
restore prop.integrated for HIP, keeping the Jetson workaround intact for
CUDA.

Fixes #23977

Signed-off-by: liminfei-amd <redacted>
ggml/src/ggml-cuda/ggml-cuda.cu