]> git.djapps.eu Git - pkg/ggml/sources/whisper.cpp/commitdiff
Fix memory sizes
authorGeorgi Gerganov <redacted>
Mon, 17 Oct 2022 20:50:44 +0000 (23:50 +0300)
committerGeorgi Gerganov <redacted>
Mon, 17 Oct 2022 21:12:51 +0000 (00:12 +0300)
whisper.cpp

index d0e6e76612ed1e067a8ed14205727b3b3a91a283..fab7071ff0b22abcbeb0c39c5609442b02806c21 100644 (file)
@@ -156,11 +156,11 @@ static const std::map<e_model, size_t> MEM_REQ_ENCODE_LAYER = {
 };
 
 static const std::map<e_model, size_t> MEM_REQ_DECODE = {
-    { MODEL_TINY,     94ull*MB },
-    { MODEL_BASE,     96ull*MB },
-    { MODEL_SMALL,    98ull*MB },
-    { MODEL_MEDIUM,  100ull*MB },
-    { MODEL_LARGE,   102ull*MB },
+    { MODEL_TINY,    200ull*MB },
+    { MODEL_BASE,    202ull*MB },
+    { MODEL_SMALL,   204ull*MB },
+    { MODEL_MEDIUM,  206ull*MB },
+    { MODEL_LARGE,   208ull*MB },
 };
 
 static const std::map<e_model, size_t> MEM_REQ_DECODE_LAYER = {