llama-cpp
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files.
O que a skill ensina
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files. The agent installs llama.cpp with Homebrew, winget or a CMake build, finds GGUF repositories on the Hugging Face Hub filtered by size, lists a repository's files to pick the right quantisation for the user's memory, and builds llama-cli or llama-server commands, including the server's OpenAI-compatible endpoint. It also covers the Python bindings for chat, streaming and embeddings, and runs on CPUs, Apple Silicon and NVIDIA, AMD or Intel GPUs. Six reference files cover the server, quantisation, tuning and troubleshooting.
O que faz
- Find GGUF models on the Hugging Face Hub
- Pick a quantisation that fits available memory
- Run llama-server with an OpenAI-compatible endpoint
- Use the llama-cpp-python bindings
Sobre
- Publicador
- Nous Research
- Ferramenta
- Hugging Face
Instalação
O projeto não documenta passos de instalação que tenhamos conseguido confirmar. Veja as instruções do próprio projeto
O que tem dentro
- references/advanced-usage.md
- references/hub-discovery.md
- references/optimization.md
- references/quantization.md
- references/server.md
- references/troubleshooting.md
Servidores MCP e skills podem executar código no seu computador e agir sobre os seus dados. Revise o código-fonte antes de instalar.
Detalhes
| Fato | Valor | Fonte |
|---|---|---|
| Tipo | Skill | |
| Ferramenta | Hugging Face | |
| Publicador | Nous Research | fonte |
| Status oficial | Comunidade (não publicado pelo fornecedor da ferramenta) | fonte |
| Exige chave de API ou login | Não informado na documentação | |
| Inclui scripts | Não | fonte |
| Plataformas | Linux, macOS, Windows | fonte |
| Clientes de IA | Não informado na documentação | |
| Licença | MIT | fonte |
| Preço | Não informado na documentação | |
| Atividade | Último commit em 11 de nov. de 2026262.606 estrelas no GitHubDados de download indisponíveis (não está no npm nem no PyPI) | fonte |
| Links | Repositório Site |
Fontes
- Arquivo da skill (SKILL.md)github.com/nousresearch/hermes-agent · Comprova: Licença, Status oficial, Plataformas16 de nov. de 2026
- Repositório no GitHubgithub.com/nousresearch/hermes-agent · Comprova: Publicador, Atividade, Licença11 de nov. de 2026
- Registro na API do GitHubgithub.com/nousresearch/hermes-agent · Comprova: Inclui scripts16 de nov. de 2026
- Arquivo da skill (SKILL.md)github.com/NousResearch/hermes-agent10 de nov. de 2026
- Pasta no repositório (llama-cpp)github.com/NousResearch/hermes-agent · Comprova: Inclui scripts10 de nov. de 2026