]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
examples : adapt to ggml.h changes (ggml/0)
authorGeorgi Gerganov <redacted>
Fri, 20 Sep 2024 18:50:16 +0000 (21:50 +0300)
committerGeorgi Gerganov <redacted>
Tue, 24 Sep 2024 08:00:52 +0000 (11:00 +0300)
ggml-ci

ggml/include/ggml.h
ggml/src/ggml.c

index d6c45c94846cce66afbaef72f3340d1e05bc948b..e24b8a319fc5055f60df005dfeb9471f4c4e4bfc 100644 (file)
@@ -1980,6 +1980,9 @@ extern "C" {
     typedef void (*ggml_custom2_op_t)(struct ggml_tensor * dst , const struct ggml_tensor * a, const struct ggml_tensor * b, int ith, int nth, void * userdata);
     typedef void (*ggml_custom3_op_t)(struct ggml_tensor * dst , const struct ggml_tensor * a, const struct ggml_tensor * b, const struct ggml_tensor * c, int ith, int nth, void * userdata);
 
+#define GGML_N_TASKS_MAX (-1)
+    // n_tasks == GGML_N_TASKS_MAX means to use max number of tasks
+
     GGML_API struct ggml_tensor * ggml_map_custom1(
             struct ggml_context   * ctx,
             struct ggml_tensor    * a,
index d4aa0a81bfae24a465c7520a4334f8b28a7e863f..4b782b0c13550f22c8e94aa6567927dd4e552ae1 100644 (file)
@@ -313,7 +313,6 @@ void ggml_abort(const char * file, int line, const char * fmt, ...) {
 #define GGML_DEBUG 0
 #define GGML_GELU_FP16
 #define GGML_GELU_QUICK_FP16
-#define GGML_N_TASKS_MAX (-1)
 
 #define GGML_SOFT_MAX_UNROLL 4
 #define GGML_VEC_DOT_UNROLL  2