]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
Add Nix and Flox install instructions (#7899)
authorBryan Honof <redacted>
Mon, 17 Jun 2024 15:37:55 +0000 (17:37 +0200)
committerGitHub <redacted>
Mon, 17 Jun 2024 15:37:55 +0000 (09:37 -0600)
README.md

index fd75a64ba1a0c4aaef91ff74d9b5b0a6a8021d6b..54859946da565cc59467ab5e4630fcacd63bd4d3 100644 (file)
--- a/README.md
+++ b/README.md
@@ -387,6 +387,30 @@ brew install llama.cpp
 ```
 The formula is automatically updated with new `llama.cpp` releases. More info: https://github.com/ggerganov/llama.cpp/discussions/7668
 
+### Nix
+
+On Mac and Linux, the Nix package manager can be used via
+```
+nix profile install nixpkgs#llama-cpp
+```
+For flake enabled installs.
+
+Or
+```
+nix-env --file '<nixpkgs>' --install --attr llama-cpp
+```
+For non-flake enabled installs.
+
+This expression is automatically updated within the [nixpkgs repo](https://github.com/NixOS/nixpkgs/blob/nixos-24.05/pkgs/by-name/ll/llama-cpp/package.nix#L164).
+
+#### Flox
+
+On Mac and Linux, Flox can be used to install llama.cpp within a Flox environment via
+```
+flox install llama-cpp
+```
+Flox follows the nixpkgs build of llama.cpp.
+
 ### Metal Build
 
 On MacOS, Metal is enabled by default. Using Metal makes the computation run on the GPU.