llama-cpp
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files.
スキルの内容
An optional skill in the Hermes Agent repository, credited to Orchestra Research, for running language models locally with llama.cpp and GGUF files. The agent installs llama.cpp with Homebrew, winget or a CMake build, finds GGUF repositories on the Hugging Face Hub filtered by size, lists a repository's files to pick the right quantisation for the user's memory, and builds llama-cli or llama-server commands, including the server's OpenAI-compatible endpoint. It also covers the Python bindings for chat, streaming and embeddings, and runs on CPUs, Apple Silicon and NVIDIA, AMD or Intel GPUs. Six reference files cover the server, quantisation, tuning and troubleshooting.
できること
- Find GGUF models on the Hugging Face Hub
- Pick a quantisation that fits available memory
- Run llama-server with an OpenAI-compatible endpoint
- Use the llama-cpp-python bindings
概要
- 公開元
- Nous Research
- ツール
- Hugging Face
インストール
プロジェクトのドキュメントに、確認できるインストール手順がありません。 プロジェクトの手順を見る
含まれるファイル
- references/advanced-usage.md
- references/hub-discovery.md
- references/optimization.md
- references/quantization.md
- references/server.md
- references/troubleshooting.md
MCPサーバーやスキルは、お使いのコンピューターでコードを実行したり、データを操作したりできます。インストールする前にソースを確認してください。
詳細
| 項目 | 内容 | 出典 |
|---|---|---|
| 種類 | スキル | |
| ツール | Hugging Face | |
| 公開元 | Nous Research | 出典 |
| 公式かどうか | コミュニティ(ツールのベンダーによる公開ではありません) | 出典 |
| APIキーまたはサインインが必要 | ドキュメントに記載なし | |
| スクリプトを含む | いいえ | 出典 |
| プラットフォーム | Linux, macOS, Windows | 出典 |
| AIクライアント | ドキュメントに記載なし | |
| ライセンス | MIT | 出典 |
| 料金 | ドキュメントに記載なし | |
| 活動状況 | 最終コミット 2026年11月11日GitHubスター 262,606ダウンロード数のデータなし(npm・PyPIで未公開) | 出典 |
| リンク | リポジトリ Webサイト |
出典
- スキルファイル(SKILL.md)github.com/nousresearch/hermes-agent · 根拠となる項目:ライセンス, 公式かどうか, プラットフォーム2026年11月16日
- GitHubリポジトリgithub.com/nousresearch/hermes-agent · 根拠となる項目:公開元, 活動状況, ライセンス2026年11月11日
- GitHub APIのレコードgithub.com/nousresearch/hermes-agent · 根拠となる項目:スクリプトを含む2026年11月16日
- スキルファイル(SKILL.md)github.com/NousResearch/hermes-agent2026年11月10日
- リポジトリ内のフォルダ(llama-cpp)github.com/NousResearch/hermes-agent · 根拠となる項目:スクリプトを含む2026年11月10日