llama-cpp
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files.
Was der Skill vermittelt
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files. The agent installs llama.cpp with Homebrew, winget or a CMake build, finds GGUF repositories on the Hugging Face Hub filtered by size, lists a repository's files to pick the right quantisation for the user's memory, and builds llama-cli or llama-server commands, including the server's OpenAI-compatible endpoint. It also covers the Python bindings for chat, streaming and embeddings, and runs on CPUs, Apple Silicon and NVIDIA, AMD or Intel GPUs. Six reference files cover the server, quantisation, tuning and troubleshooting.
Funktionen
- Find GGUF models on the Hugging Face Hub
- Pick a quantisation that fits available memory
- Run llama-server with an OpenAI-compatible endpoint
- Use the llama-cpp-python bindings
Überblick
- Herausgeber
- Nous Research
- Tool
- Hugging Face
Installation
Das Projekt dokumentiert keine Installationsschritte, die wir bestätigen konnten. Zur Anleitung des Projekts
Was enthalten ist
- references/advanced-usage.md
- references/hub-discovery.md
- references/optimization.md
- references/quantization.md
- references/server.md
- references/troubleshooting.md
MCP-Server und Skills können Code auf deinem Rechner ausführen und auf deine Daten zugreifen. Prüfe den Quellcode, bevor du etwas installierst.
Details
| Angabe | Wert | Quelle |
|---|---|---|
| Typ | Skill | |
| Tool | Hugging Face | |
| Herausgeber | Nous Research | Quelle |
| Offizieller Status | Community (nicht vom Hersteller des Tools veröffentlicht) | Quelle |
| Braucht API-Key oder Anmeldung | In der Dokumentation nicht angegeben | |
| Enthält Skripte | Nein | Quelle |
| Plattformen | Linux, macOS, Windows | Quelle |
| KI-Clients | In der Dokumentation nicht angegeben | |
| Lizenz | MIT | Quelle |
| Preis | In der Dokumentation nicht angegeben | |
| Aktivität | Letzter Commit am 11. Nov. 2026262.606 GitHub-SterneKeine Download-Daten verfügbar (nicht auf npm oder PyPI) | Quelle |
| Links | Repository Website |
Quellen
- Skill-Datei (SKILL.md)github.com/nousresearch/hermes-agent · Belegt: Lizenz, Offizieller Status, Plattformen16. Nov. 2026
- GitHub-Repositorygithub.com/nousresearch/hermes-agent · Belegt: Herausgeber, Aktivität, Lizenz11. Nov. 2026
- Datensatz aus der GitHub-APIgithub.com/nousresearch/hermes-agent · Belegt: Enthält Skripte16. Nov. 2026
- Skill-Datei (SKILL.md)github.com/NousResearch/hermes-agent10. Nov. 2026
- Ordner im Repository (llama-cpp)github.com/NousResearch/hermes-agent · Belegt: Enthält Skripte10. Nov. 2026