CUDA: fixed LLAMA_FAST compilation option (#2473)

diff --git a/Makefile b/Makefile
index ebeadfdd05fd5ed587000d8b546eb3e0a2e89e1d..100614b4bb8715e48a2c7614293ec03f75e64208 100644 (file)
--- a/Makefile
+++ b/Makefile
@@ -243,7 +243,7 @@ ifdef LLAMA_CUDA_CCBIN
        NVCCFLAGS += -ccbin $(LLAMA_CUDA_CCBIN)
 endif
 ggml-cuda.o: ggml-cuda.cu ggml-cuda.h
-       $(NVCC) $(NVCCFLAGS) $(CXXFLAGS) -Wno-pedantic -c $< -o $@
+       $(NVCC) $(NVCCFLAGS) $(subst -Ofast,-O3,$(CXXFLAGS)) -Wno-pedantic -c $< -o $@
 endif # LLAMA_CUBLAS
 
 ifdef LLAMA_CLBLAST