llama : increase max nodes (#4115)

diff --git a/llama.cpp b/llama.cpp
index 3cc3fc9f0f3fb4ede276ebc964fcad078cf2c975..56d8e765cc11299c107b326b41412ab7d13c683c 100644 (file)
--- a/llama.cpp
+++ b/llama.cpp
@@ -91,7 +91,7 @@
 #define LLAMA_ATTRIBUTE_FORMAT(...)
 #endif
 
-#define LLAMA_MAX_NODES 4096
+#define LLAMA_MAX_NODES 8192
 
 //
 // logging