huggingface-local-models
A Hugging Face skill for running models on your own machine with llama.cpp.
Was der Skill vermittelt
A Hugging Face skill for running models on your own machine with llama.cpp. The agent searches the Hub for repositories that ship GGUF files, opens a model's llama.cpp local-app page for the suggested command and quantisation, confirms exact file names through the Hub API, and starts the model with llama-cli or llama-server, which can serve an OpenAI-compatible endpoint. It covers CPU, Apple Metal, CUDA and ROCm setups, choosing a quantisation for the available memory, and converting Transformers weights to GGUF when no GGUF exists. Gated models need a Hugging Face login.
Funktionen
- Find GGUF model repositories on the Hub
- Choose a quantisation for the available hardware
- Launch models with llama-cli or llama-server
- Convert Transformers weights to GGUF
Überblick
- Herausgeber
- Hugging Face
- Tool
- Hugging Face
Installation
Was enthalten ist
- references/hardware.md
- references/hub-discovery.md
- references/quantization.md
MCP-Server und Skills können Code auf deinem Rechner ausführen und auf deine Daten zugreifen. Prüfe den Quellcode, bevor du etwas installierst.
Details
| Angabe | Wert | Quelle |
|---|---|---|
| Typ | Skill | |
| Tool | Hugging Face | |
| Herausgeber | Hugging Face | Quelle |
| Offizieller Status | OffiziellHugging Face Hub docs link to the huggingface/skills repository | Quelle |
| Braucht API-Key oder Anmeldung | In der Dokumentation nicht angegeben | |
| Enthält Skripte | Nein | Quelle |
| Plattformen | In der Dokumentation nicht angegeben | |
| KI-Clients | In der Dokumentation nicht angegeben | |
| Lizenz | Apache-2.0 | Quelle |
| Preis | In der Dokumentation nicht angegeben | |
| Aktivität | Letzter Commit am 11. Nov. 202611.334 GitHub-SterneKeine Download-Daten verfügbar (nicht auf npm oder PyPI) | Quelle |
| Links | Repository Website |
Weitere Kopien dieses Skills (2)
Ihr Text weicht von diesem Skill ab. Es kann sich um angepasste Kopien oder ältere Versionen handeln.
- huggingface-local-modelspracticalswan/agent-skills
- huggingface-local-modelsbg-szy/top-skills
Mehr von Hugging Face
1 Server · 26 Skills
- hf-mcp (Skill)
- hf-cli (Skill)
- hf-mem (Skill)
- huggingface-best (Skill)
- huggingface-community-evals (Skill)
- huggingface-datasets (Skill)
Quellen
- Skill-Datei (SKILL.md)github.com/huggingface/skills10. Nov. 2026
- Webseitehuggingface.co · Belegt: Offizieller Status12. Nov. 2026
- Lizenzdatei (LICENSE)github.com/huggingface/skills · Belegt: Lizenz12. Nov. 2026
- GitHub-Repositorygithub.com/huggingface/skills · Belegt: Herausgeber, Aktivität, Lizenz11. Nov. 2026
- Ordner im Repository (huggingface-local-models)github.com/huggingface/skills · Belegt: Enthält Skripte10. Nov. 2026