🤗 hf-mount Guide

Carga modelos de HuggingFace sin descargarlos

✨¿Qué es hf-mount?

hf-mount monta repositorios de HuggingFace como sistemas de archivos locales. Los archivos se leen bajo demanda — no se descarga todo el modelo, solo lo que necesitas. Funciona via FUSE o NFS, con carga lazy de archivos.

🚀Guía de Inicio Rápido

Instala hf-mount

curl -fsSL https://raw.githubusercontent.com/huggingface/hf-mount/main/install.sh | sh

Monte un modelo público

hf-mount start repo openai-community/gpt2 /tmp/gpt2

(Usa --hf-token $HF_TOKEN para modelos privados)

Usa con Python/Transformers

from transformers import AutoModelForCausalLM

# Carga desde path montado - NO descarga
model = AutoModelForCausalLM.from_pretrained("/tmp/gpt2")

Ejecuta el servidor API (opcional)

pip install flask transformers torch
python api_server.py

Luego abre http://localhost:5000

📦Modelos Recomendados

gpt2

~500 MB

TinyLlama

~1 GB

Qwen2.5-0.5B

~4 GB

Llama-3.2-1B

~4 GB

Nota importante: Esta página es una guía introductoria. Para una experiencia interactiva con documentación profunda y un asistente de IA que te guiará paso a paso, haz clic en el banner flotante ↓

📁Archivos del Proyecto

README.md — Guía completa
api_server.py — Servidor API con chat UI
setup.sh — Script automático de setup
worker.js — Proxy para Cloudflare (alternativo)