Un sistema de IA en producción sin pagar un solo euro de licencia
Desarrolladores y responsables de IT reportan el mismo hallazgo: un stack de IA completo y apto para producción puede funcionar en 2026 sin coste de licencias. Las piezas están maduras, corren en tu propio hardware y ningún dato sale a la nube.
Lo que hace dos años sonaba a experimento de nicho es hoy una alternativa sólida para pymes. Según mediciones reportadas por la comunidad, Ollama superó 52 millones de descargas mensuales en el primer trimestre de 2026, y alrededor del 42 % de los desarrolladores ejecuta al menos parte de sus cargas de LLM en local, de acuerdo con encuestas del sector.
La pregunta ya no es si este enfoque funciona, sino cuándo adoptarlo.
El stack
La configuración más discutida combina los siguientes componentes:
- Servidor LLM: Ollama (código abierto, licencia MIT) en
localhost:11434 - Modelos: Google Gemma 4, Meta Llama 3.3 o Mistral Small 4 — todos con licencias permisivas
- Orquestación: LangGraph o CrewAI para flujos de trabajo agénticos multi-paso
- Capa RAG: LlamaIndex como framework, ChromaDB o Qdrant como base de datos vectorial local
- Embeddings: nomic-embed-text (274 MB, bloques de 8 192 tokens) — también en local
Cada componente es de código abierto. Ollama gestiona los modelos con un único comando (ollama pull gemma4); LangGraph y CrewAI orquestan tareas y bucles de decisión; ChromaDB o Qdrant almacenan los vectores en tu propio almacenamiento. Tras la inversión inicial en hardware, el sistema no genera ningún coste adicional.
Elección del modelo: Gemma 4, Llama 3.3 o Mistral Small 4
Google Gemma 4 (licencia Apache 2.0) es, según el blog técnico oficial de Google DeepMind, la primera familia de modelos de código abierto en la que la capacidad agéntica —llamadas a herramientas, planificación multi-paso, salidas estructuradas— es un objetivo de diseño de primera clase y no un añadido posterior. Las variantes de 12B y 27B se ejecutan en una workstation estándar o en un Mac Studio y ofrecen resultados sólidos en análisis de documentos, extracción de datos estructurados y gestión de preguntas frecuentes.
Meta Llama 3.3 ofrece un rendimiento generalista muy sólido y es la opción natural para equipos con hardware potente — un Mac Studio M4 Ultra (128 GB de memoria unificada) o una workstation Linux con NVIDIA RTX 4090 (24 GB VRAM) — que quieran usar la variante de 70B. Las variantes más pequeñas (8B, 32B) funcionan en hardware más modesto.
Mistral Small 4 se distingue por su tamaño compacto y su velocidad de inferencia en hardware de consumo. Según mediciones reportadas por la comunidad, Gemma 4 27B en un Mac Studio M3 Ultra alcanza entre 20 y 40 tokens por segundo (Q4 a Q8), suficiente para la mayoría de los casos interactivos. Para el primer despliegue en pymes, la comunidad recomienda Gemma 4 (27B) vía Ollama: capaz, compatible con el RGPD y completamente gratuito.
Orquestación con LangGraph y CrewAI
Una vez que el modelo funciona vía Ollama, LangGraph permite implementar flujos de trabajo complejos y con estado: el agente lee documentos, rellena tablas, toma decisiones y llama a herramientas, todo sin conexión a internet. LangGraph describe los flujos de trabajo de los agentes como grafos dirigidos, lo que facilita la depuración y la extensión.
CrewAI es especialmente adecuado para sistemas multi-agente en los que distintos "roles" (investigación, análisis, resumen, revisión de calidad) colaboran hacia un objetivo común. Ambos frameworks ofrecen integración oficial con Python y se conectan a Ollama a través de la API compatible con OpenAI — solo hace falta cambiar el parámetro base_url.
Casos de uso habituales en pymes:
- Respuesta automática a consultas internas (FAQ de RRHH, helpdesk de IT, políticas de empresa)
- Procesamiento de documentos (facturas, contratos, correspondencia con proveedores)
- Extracción de datos de informes o formularios no estructurados
- Resumen de actas de reuniones o solicitudes de clientes
Según informaciones de profesionales del sector, el tiempo de configuración con un desarrollador Python interno es de dos a cuatro horas.
RAG local con LlamaIndex y ChromaDB
La generación aumentada por recuperación (RAG) permite al modelo consultar documentos propios de la empresa en lugar de depender exclusivamente del conocimiento de entrenamiento. LlamaIndex indexa archivos PDF, Word y HTML; ChromaDB o Qdrant almacenan los vectores resultantes de forma local en tu propio servidor.
El resultado: un asistente de IA que conoce tus manuales internos, catálogos de productos, documentación técnica o correspondencia con clientes — sin que un solo carácter de esos datos salga de tu red. Para una empresa de software esto puede significar que el asistente conoce todas las guías de estilo de código internas. Para un despacho: todos los textos de plantillas no personales.
RGPD como ventaja competitiva
Para las pymes europeas, este es el punto decisivo. Al procesarse todo en las instalaciones propias, no se necesita un Acuerdo de Tratamiento de Datos con un proveedor de nube estadounidense ni se produce ninguna transferencia de datos personales a terceros países bajo el RGPD.
Según nuestra interpretación del Reglamento de IA de la UE y la orientación actual del RGPD, un stack completamente local reduce considerablemente las obligaciones de documentación y simplifica el cumplimiento normativo. Los clientes y socios comerciales pueden verificar fácilmente — si se les solicita — dónde se procesan sus datos. Ese es un argumento tangible en las conversaciones de venta B2B y en las licitaciones públicas.
Kit Digital: financiación para pymes españolas
Las pymes españolas cuentan con una ventaja adicional: el programa Kit Digital puede financiar hasta 12 000 € para la implantación de soluciones de inteligencia artificial dentro de las categorías de "Gestión de procesos" e "Inteligencia Artificial y Analítica Avanzada". Según nuestra interpretación de la convocatoria vigente, un stack de IA local — incluyendo hardware, configuración y formación del equipo — puede ser elegible.
Más detalles sobre cómo combinar esta financiación con una solución de IA local en nuestra página de Kit Digital.
Hardware y coste
Opciones de entrada:
| Hardware | Memoria | Ideal para |
|---|---|---|
| Mac Mini M4 Pro | 48 GB unificada | Gemma 4 27B (Q4/Q8) |
| Mac Studio M3 Ultra | 96–192 GB | Llama 3.3 70B |
| Workstation Linux + RTX 4090 | 24 GB VRAM | Gemma 4 27B, Mistral Small 4 |
Precios desde aproximadamente 1 600 € (Mac Mini M4 Pro) hasta unos 6 000 € (Mac Studio M3 Ultra) — una inversión única sin costes de licencia recurrentes.
Costes recurrentes: consumo eléctrico (típicamente entre 30 y 150 W en carga) más mantenimiento ocasional. Sin suscripción de API, sin cargos por token.
Punto de equilibrio: Frente a una suscripción típica de API en la nube para pymes — estimada entre 50 y 500 €/mes según análisis de costes de la comunidad — el punto de equilibrio se sitúa entre seis y doce meses. A partir de ahí, el stack funciona sin coste.
Próximos pasos con Freshlab
Freshlab ha desplegado stacks de IA local comparables en proyectos piloto con pymes europeas — incluyendo selección de hardware, configuración de modelos, ajuste del RAG y formación del equipo como paquete completo. Nuestro Kaira Toolkit ofrece una base lista para producción para exactamente este stack.
Para más contexto sobre los argumentos técnicos y legales de la IA en local, visita nuestra página de soberanía del dato o consulta nuestra visión general de IA local.
Si quieres saber si un stack de IA local encaja en tu empresa, contáctanos — te mostramos qué es realista en una primera conversación gratuita.