La trampa de las APIs: Cómo migrar a LLMs locales en LatAm
No es "API vs. local". Es saber en qué mes el self-hosting deja de ser una apuesta técnica y se vuelve la decisión financiera correcta.
EL CONTEXTO
Migrar a un LLM local significa ejecutar el modelo de lenguaje en infraestructura propia o contratada por GPU-hora, en vez de pagar por token a un proveedor como OpenAI o Anthropic — cambia la estructura de costo de variable por uso a fija por capacidad, lo cual solo es rentable a partir de cierto volumen.
La conversación sobre LLMs locales en LatAm casi siempre se plantea mal: "¿API o self-hosted?" La pregunta real es de volumen y de qué proveedor, no de dónde corre el modelo. Hay APIs diez veces más caras que otras, y hay self-hosting que sale más caro que la API más cara del mercado si no se hace bien. La trampa no es usar APIs — es asumir que "migrar a local" es automáticamente más barato sin hacer la cuenta.
El punto de equilibrio para self-hostear un modelo tipo Llama 70B en un solo H100 ronda los 5,700 millones de tokens al mes frente a una API económica como DeepSeek — por debajo de ese volumen, migrar a infraestructura propia cuesta más, no menos.
LO QUE HICIMOS
Antes de mover una carga de producción fuera de una API, hay tres decisiones que importan más que "local vs. nube": qué proveedor de API estás comparando (los precios varían hasta 20× entre sí), qué tan cuantizado corre tu modelo local (la diferencia entre FP8 e INT4 es de 3.3× en costo por token), y cuál es tu volumen mensual real de tokens — no el que proyectas, el que ya facturas hoy.
- La API "cara" no es el problema — es la API por default — Migrar de GPT-5.5 ($5/$30 por millón de tokens) a un modelo abierto alojado como Llama 3.3 70B en DeepInfra ($0.23/$0.40) reduce el costo hasta 20× sin tocar un solo servidor propio.
- Self-hosting sin cuantizar es la trampa real — Un Llama 70B en FP8 sobre un H100 cuesta ~$4.63 efectivos por millón de tokens — más caro que casi cualquier API de modelo abierto. La misma carga en INT4 baja a ~$1.39.
- El punto de equilibrio es una cifra, no una intuición — Con GPUs H100 on-demand a ~$2/hora, el volumen mensual en el que self-hostear gana a una API barata es calculable — no es "cuando tengamos suficiente escala".
PASO A PASO
Auditoría de gasto actual por proveedor y modelo
Antes de evaluar self-hosting, se audita cuánto se gasta hoy, con qué modelo y en qué tipo de tarea.
Reasignación a proveedores de modelos abiertos
Las tareas que no requieren el modelo más caro se mueven primero a proveedores de inferencia sobre modelos abiertos.
Cálculo del punto de equilibrio de self-hosting
Con el volumen real de tokens/mes, se calcula el punto de equilibrio contra el costo de GPU-hora y el nivel de cuantización viable.
Migración a infraestructura propia solo donde el volumen ya lo justifica
Self-hosting se implementa únicamente en las cargas que ya superan su punto de equilibrio.
COSTO POR MILLÓN DE TOKENS
| Proveedor / Modelo | Tipo | Input $/1M | Output $/1M | Nota |
|---|---|---|---|---|
| OpenAI GPT-5.5 | propietaria | $5.00 | $30.00 | Modelo frontier, contexto 1M |
| Anthropic Claude Opus 4.8 | propietaria | $5.00 | $25.00 | Modelo frontier |
| Anthropic Claude Sonnet 4.6 | propietaria | $3.00 | $15.00 | Uso general en producción |
| DeepSeek V3.1 (API propia) | abierto | $0.60 | $1.70 | — |
| Llama 3.3 70B (Groq) | abierto | $0.59 | $0.79 | Inferencia acelerada |
| Qwen 3.6 Plus (Together AI) | abierto | $0.50 | $3.00 | — |
| Llama 3.3 70B (DeepInfra) | abierto | $0.23 | $0.40 | Opción alojada más económica |
| Llama 70B self-hosted, FP8 (1× H100) | self-hosted | ~$4.63 efectivo | Sin cuantizar agresivamente | |
| Llama 70B self-hosted, INT4 (1× H100) | self-hosted | ~$1.39 efectivo | Competitivo solo sobre el punto de equilibrio | |
Fuentes: OpenAI API Pricing · Anthropic Claude Pricing · DeepSeek API Pricing · DeepInfra Pricing
Más artículos
Ver todos →