]> git.djapps.eu Git - pkg/ggml/sources/ggml/commitdiff
spec : fix typo in gguf.md (#798)
authorDaniel Bevenius <redacted>
Thu, 18 Apr 2024 16:47:17 +0000 (18:47 +0200)
committerGitHub <redacted>
Thu, 18 Apr 2024 16:47:17 +0000 (19:47 +0300)
Signed-off-by: Daniel Bevenius <redacted>
docs/gguf.md

index d6ad5e276cecdecd0ce0ffd96128508a961b38e4..c2f95a2ade49565107f44653df413b3e5e586a02 100644 (file)
@@ -591,7 +591,7 @@ where N signifies the block number a layer belongs to, and where `BB` could be:
 - `ffn_up`: Feed-forward network "up" layer
 - `ffn_gate`: Feed-forward network "gate" layer
 - `ffn_down`: Feed-forward network "down" layer
-- `ffn_gate_inp`: Expert-routing layer for the Fee-forward network in MoE models
+- `ffn_gate_inp`: Expert-routing layer for the Feed-forward network in MoE models
 - `ffn_gate_exp`: Feed-forward network "gate" layer per expert in MoE models
 - `ffn_down_exp`: Feed-forward network "down" layer per expert in MoE models
 - `ffn_up_exp`: Feed-forward network "up" layer per expert in MoE models