]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
llama : print tensor meta for debugging
authorGeorgi Gerganov <redacted>
Sun, 7 Jan 2024 07:50:31 +0000 (09:50 +0200)
committerGeorgi Gerganov <redacted>
Sun, 7 Jan 2024 07:51:12 +0000 (09:51 +0200)
llama.cpp

index 3bb056dba2e6d6ab21fcd21a3ab70776ad01557d..06db40303e1255859e4265289977185c53273401 100644 (file)
--- a/llama.cpp
+++ b/llama.cpp
@@ -2180,7 +2180,11 @@ struct llama_model_loader {
                     type_max   = type;
                 }
 
-                // LLAMA_LOG_INFO("%s: - tensor %4d: %32s %-8s [ %s ]\n", __func__, i, name, ggml_type_name(meta->type), llama_format_tensor_shape(meta).c_str());
+                // TODO: make runtime configurable
+#if 0
+                struct ggml_tensor * meta = ggml_get_tensor(ctx_meta, gguf_get_tensor_name(ctx_gguf, i));
+                LLAMA_LOG_INFO("%s: - tensor %4d: %32s %-8s [ %s ]\n", __func__, i, ggml_get_name(meta), ggml_type_name(type), llama_format_tensor_shape(meta).c_str());
+#endif
             }
 
             switch (type_max) {