]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
docker : drop to CUDA 12.4 (#11869)
authorGeorgi Gerganov <redacted>
Fri, 14 Feb 2025 12:48:40 +0000 (14:48 +0200)
committerGitHub <redacted>
Fri, 14 Feb 2025 12:48:40 +0000 (14:48 +0200)
* docker : drop to CUDA 12.4

* docker : update readme [no ci]

.devops/cuda.Dockerfile
docs/docker.md

index 974dd78a8b08a779cc2263f0f59ba57a5a4298a8..0bc4e7ee13f662b0ce0b0faba5e4cca2324d7ffa 100644 (file)
@@ -1,6 +1,6 @@
 ARG UBUNTU_VERSION=22.04
 # This needs to generally match the container host's environment.
-ARG CUDA_VERSION=12.6.0
+ARG CUDA_VERSION=12.4.0
 # Target the CUDA build image
 ARG BASE_CUDA_DEV_CONTAINER=nvidia/cuda:${CUDA_VERSION}-devel-ubuntu${UBUNTU_VERSION}
 
index cab5ae95723496063d996a3419850773f17eaa3e..58b5d381d353a7a8de13091f66ac4fa8aed0d4c6 100644 (file)
@@ -69,7 +69,7 @@ You may want to pass in some different `ARGS`, depending on the CUDA environment
 
 The defaults are:
 
-- `CUDA_VERSION` set to `12.6.0`
+- `CUDA_VERSION` set to `12.4.0`
 - `CUDA_DOCKER_ARCH` set to the cmake build default, which includes all the supported architectures
 
 The resulting images, are essentially the same as the non-CUDA images: