hf-cloud-serving-image-selection
A Hugging Face skill for choosing the serving container when deploying a model to a SageMaker endpoint.
Was der Skill vermittelt
A Hugging Face skill for choosing the serving container when deploying a model to a SageMaker endpoint. It requires a Hugging Face container family (vLLM, vLLM-Omni, SGLang, TEI or PyTorch inference) whenever one can serve the model, gives the few reasons for falling back to a generic image, and reads image URIs from AWS's Deep Learning Containers catalog. It covers choosing between TEI and vLLM for rerankers, AMI and CUDA requirements, container settings, private-network download problems, images known to be broken and first-boot download time. A bundled script mirrors images when a region lacks one.
Funktionen
- Pick the serving container for a model on SageMaker
- Look up current image URIs from AWS's container catalog
- Configure vLLM and TEI containers
- Mirror an image to another region
Überblick
- Herausgeber
- Hugging Face
- Tool
- Hugging Face
Funktioniert mit
Installation
- Führe diesen Befehl aus, um ihn zu Beliebiger Client hinzuzufügen:
hf skills add hf-cloud-serving-image-selection
Was enthalten ist
- references/model-to-image.md
- scripts/mirror_image.py
MCP-Server und Skills können Code auf deinem Rechner ausführen und auf deine Daten zugreifen. Prüfe den Quellcode, bevor du etwas installierst.
Dieser Skill enthält Skripte, die dein Agent ausführen kann.
Details
| Angabe | Wert | Quelle |
|---|---|---|
| Typ | Skill | |
| Tools | Amazon Web Services, Hugging Face | |
| Herausgeber | Hugging Face | Quelle |
| Offizieller Status | OffiziellHugging Face Hub docs link to the huggingface/skills repository | Quelle |
| Braucht API-Key oder Anmeldung | In der Dokumentation nicht angegeben | |
| Enthält Skripte | Ja | Quelle |
| Plattformen | In der Dokumentation nicht angegeben | |
| KI-Clients | Claude Code, Cursor, Codex, Gemini CLI | Quelle |
| Lizenz | Apache-2.0 | Quelle |
| Preis | In der Dokumentation nicht angegeben | |
| Aktivität | Letzter Commit am 11. Nov. 202611.334 GitHub-SterneKeine Download-Daten verfügbar (nicht auf npm oder PyPI) | Quelle |
| Links | Repository Website |
Mehr von Hugging Face
1 Server · 26 Skills
- hf-mcp (Skill)
- hf-cli (Skill)
- hf-mem (Skill)
- huggingface-best (Skill)
- huggingface-community-evals (Skill)
- huggingface-datasets (Skill)
Quellen
- README (README.md)github.com/huggingface/skills · Belegt: KI-Clients13. Nov. 2026
- Skill-Datei (SKILL.md)github.com/huggingface/skills10. Nov. 2026
- Lizenzdatei (LICENSE)github.com/huggingface/skills · Belegt: Lizenz13. Nov. 2026
- Webseitehuggingface.co · Belegt: Offizieller Status13. Nov. 2026
- GitHub-Repositorygithub.com/huggingface/skills · Belegt: Herausgeber, Aktivität, Lizenz11. Nov. 2026
- Ordner im Repository (hf-cloud-serving-image-selection)github.com/huggingface/skills · Belegt: Enthält Skripte10. Nov. 2026