]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
convert.py : add consolidated.safetensors for mixtral 8x22b (#6587)
authorslaren <redacted>
Wed, 10 Apr 2024 13:23:12 +0000 (15:23 +0200)
committerGitHub <redacted>
Wed, 10 Apr 2024 13:23:12 +0000 (15:23 +0200)
convert.py

index e860ac89fc2776eb1a393b4eb613aa8e4e66f817..24df0a4d84dc35b32c580addbc4e3a8ab11e4069 100755 (executable)
@@ -1350,7 +1350,7 @@ def load_some_model(path: Path) -> ModelPlus:
     # Be extra-friendly and accept either a file or a directory:
     if path.is_dir():
         # Check if it's a set of safetensors files first
-        globs = ["model-00001-of-*.safetensors", "model.safetensors"]
+        globs = ["model-00001-of-*.safetensors", "model.safetensors", "consolidated.safetensors"]
         files = [file for glob in globs for file in path.glob(glob)]
         if not files:
             # Try the PyTorch patterns too, with lower priority