]> git.djapps.eu Git - pkg/ggml/sources/llama.cpp/commitdiff
readme : update infra list (#9942)
authoricppWorld <redacted>
Sun, 20 Oct 2024 16:01:34 +0000 (12:01 -0400)
committerGitHub <redacted>
Sun, 20 Oct 2024 16:01:34 +0000 (19:01 +0300)
llama_cpp_canister allows you to run llama.cpp as a Smart Contract on the Internet Computer. The smart contract runs as WebAssembly in a so-called 'canister'.

README.md

index 1088b3338ff175394e1dc5b12899579a34faaaa2..f1d8900c351dea84d0ef68e8c998569cf3b8238d 100644 (file)
--- a/README.md
+++ b/README.md
@@ -187,6 +187,7 @@ Unless otherwise noted these projects are open-source with permissive licensing:
 
 - [Paddler](https://github.com/distantmagic/paddler) - Stateful load balancer custom-tailored for llama.cpp
 - [GPUStack](https://github.com/gpustack/gpustack) - Manage GPU clusters for running LLMs
+- [llama_cpp_canister](https://github.com/onicai/llama_cpp_canister) - llama.cpp as a smart contract on the Internet Computer, using WebAssembly
 
 **Games:**
 - [Lucy's Labyrinth](https://github.com/MorganRO8/Lucys_Labyrinth) - A simple maze game where agents controlled by an AI model will try to trick you.