Unsloth
Descripción
Entrenar o siquiera ejecutar un modelo grande en un ordenador personal chocaba con dos muros: la VRAM que exigían las librerías habituales y un entorno de instalación frágil. Quien quería fine-tuning, aprendizaje por refuerzo o difusión acababa en la nube o con GPU de servidor.
Unsloth reúne en una app de escritorio nativa (más una UI web y un núcleo en código) la ejecución, el entrenamiento y el despliegue de LLMs, difusión, embeddings y audio. El fine-tuning llega a ser el doble de rápido y consume un 70% menos de VRAM sin pérdida de precisión, con LoRA, QLoRA, fine-tuning completo, preentrenamiento, RL, GRPO, DPO y FP8.
Qué cubre
- Correr y entrenar modelos como Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4 o FLUX, en CPU, Apple, NVIDIA, AMD, Intel y multi-GPU.
- Agentes y herramientas locales (Claude Code, Codex, MCP), búsqueda web privada, RAG e imagen y vídeo por difusión.
- Exportar a GGUF, NVFP4 o FP8, API compatible con OpenAI y acceso remoto por HTTPS con Cloudflare.
Tecnologías y temas
-
Agentes
Claude Code, Codex y MCP contra modelos en tu máquina
-
autoalojado
App nativa para Windows, macOS y Linux, más UI web y API
-
Difusión
Entrenamiento y ejecución de modelos de imagen y vídeo
-
Fine-tuning
Hasta 2× más rápido y un 70% menos de VRAM, sin pérdida de precisión
-
LLMs locales
Qwen, Gemma, DeepSeek, Kimi, MiniMax y más, en CPU o GPU