LocalAI — el proyecto open source mantenido por Enrico Massone (mudler) — ha publicado una actualización significativa este mes. Según la documentación del proyecto en GitHub, la última versión incluye funciones que marcan el salto de herramienta para desarrolladores a plataforma empresarial: inferencia distribuida con enrutamiento por caché de prefijos, asistente de voz en tiempo real con WebRTC, seguridad empresarial con NATS JWT y TLS/mTLS, y 60 voces de síntesis de texto a voz en 42 idiomas.
Para las pymes que buscan infraestructura de IA local sin dependencia de la nube, es un desarrollo que merece atención.
¿Qué es LocalAI?
LocalAI es una API de código abierto, compatible con OpenAI, que funciona íntegramente en tu propio hardware — CPU, GPU o Apple Silicon — sin que ningún dato salga de tu entorno. Compatible con modelos de texto (Llama 3.3, Qwen 2.5, Gemma 4, DeepSeek-V3), generación de imágenes, procesamiento de voz y, desde esta versión, voz en tiempo real, todo a través de una única API unificada.
La ventaja práctica: las organizaciones que ya usan APIs de la nube pueden cambiar el endpoint a una instancia local de LocalAI con un solo cambio de configuración, sin modificar el código de sus aplicaciones. Esto hace que la migración de nube a on-premise sea considerablemente más sencilla.
Las nuevas funciones en detalle
Inferencia distribuida y seguridad empresarial
La actualización más relevante para despliegues en producción. Según la documentación del proyecto:
- Enrutamiento con caché de prefijos: Las solicitudes que comparten prefijos comunes se benefician de la reutilización del KV-cache entre llamadas — especialmente valioso en workloads de Q&A sobre documentos donde el prompt del sistema se repite en muchas consultas
- Router de solicitudes listo para producción con tamaños de lote auto-ajustados para embedding y reranking
- Inferencia distribuida con partición de capas DS4: Los modelos grandes (70B+) se distribuyen entre múltiples GPUs o máquinas, sin que ningún nodo necesite tener el modelo completo en memoria
- NATS JWT auth + TLS/mTLS: Autenticación correcta y comunicación cifrada entre nodos para despliegues multi-máquina
- Subidas de archivos reanudables para distribución robusta de modelos incluso en conexiones de red inestables
La capa de seguridad importa para los despliegues empresariales reales. Con NATS JWT, los servicios y grupos de usuarios individuales pueden autorizarse con granularidad fina — sin que todos compartan una única clave de API.
Asistente de voz en tiempo real con WebRTC
LocalAI incluye ahora un asistente de voz en tiempo real completamente local, sin servicios de nube. Según la documentación del proyecto:
- Un cliente Go con bucle de voz bidireccional completo, incluyendo llamadas a herramientas (tool calling)
- Streaming de toda la cadena LLM → TTS → transcripción en tiempo real
- Candidatos WebRTC ICE configurables para topologías de red flexibles
En la práctica: las reuniones, llamadas con clientes o dictados pueden transcribirse y responderse en un servidor local, sin que el audio salga de la infraestructura de la organización. Para sectores sensibles al RGPD — sanidad, legal, RRHH — esto supone una ventaja real frente a los servicios de transcripción en la nube.
Procesamiento de voz: 60 voces, 42 idiomas
El nuevo backend CrispASR convierte a LocalAI en una plataforma de voz local completa. Según la documentación del proyecto:
- 60 voces Piper TTS en 42 idiomas — alemán, español, inglés, francés y muchos más
- parakeet.cpp con marcas de tiempo a nivel de segmento compatibles con NeMo para transcripciones precisas y con timestamp
- Streaming multilingüe mediante el modelo Nemotron-3.5 para transcripción en tiempo real en varios idiomas
- Batching dinámico para solicitudes de transcripción concurrentes bajo carga
Esto permite transcripción y síntesis de voz en el idioma de destino sin enrutar el audio a ningún servicio externo.
Qué significa para las pymes
Sin dependencia de la nube — para texto, voz, imagen o detección de objetos. Es el mismo principio sobre el que se construye el enfoque de IA local de Freshlab: infraestructura propia, control total, cumplimiento del RGPD sin compromisos.
Compatibilidad con la API de OpenAI: Las organizaciones que ya tienen aplicaciones construidas sobre la API de OpenAI pueden migrar a inferencia local cambiando únicamente la URL del endpoint. Esto reduce sustancialmente el vendor lock-in y elimina la exposición a futuros cambios de precios de proveedores de fuera de Europa.
Despliegue para todo el equipo sin licencias por usuario: LocalAI funciona como servicio interno para toda la organización. Con el nuevo router y la autenticación NATS, diferentes equipos y servicios pueden acceder al mismo stack de LLM local de forma aislada — sin coste por usuario, sin factura variable de API por uso.
Estructura de costes: El funcionamiento local no genera costes por token. Según mediciones reportadas por la comunidad, el coste total de propiedad — hardware, electricidad, mantenimiento — resulta generalmente competitivo frente a APIs de nube a los 12–18 meses para cinco o más usuarios. Los números concretos varían mucho según la configuración de hardware y el patrón de uso.
Para pymes españolas que cumplan los requisitos del Kit Digital, la implantación de infraestructura de IA local puede enmarcarse en la categoría de digitalización empresarial — consulte con su agente digitalizador los criterios actualizados de elegibilidad.
LocalAI, Ollama y Microsoft Foundry: ¿cuándo usar cada uno?
LocalAI no es el único enfoque de IA local, y cada herramienta tiene su lugar:
- Ollama es más sencillo de configurar, ideal para usuarios individuales y prototipos rápidos. Menos funciones de producción.
- Microsoft Foundry Local (disponible desde junio de 2026) se integra profundamente con Windows y Visual Studio Code — bien adaptado para entornos de desarrollo centrados en Windows.
- LocalAI es la plataforma más completa: texto, voz, imagen, vídeo, agentes — todo a través de una sola API, con modo distribuido y autenticación empresarial.
Para pymes que necesiten cubrir más de un caso de uso — desde chatbot de atención al cliente hasta transcripción de reuniones y búsqueda documental — LocalAI es la plataforma de IA local más completa disponible actualmente.
Casos de uso para pymes
Despachos y consultoría: Transcribir llamadas con clientes, resumir contratos, buscar en la base de conocimiento interna — todo en un servidor local, sin datos compartidos externamente y sin facturación por consulta.
Industria y comercio: Documentación de órdenes de trabajo por voz, informes automáticos post-visita, registro de inspecciones de calidad — con 60 voces en 42 idiomas integradas y listas para usar.
Asesorías y contabilidad: Búsqueda RAG sobre documentos de clientes, declaraciones fiscales o datos exportados. Con la entrada de voz en tiempo real de LocalAI, el dictado se convierte en interfaz nativa.
Cómo empezar
Un proyecto piloto estructurado es el punto de entrada más efectivo. LocalAI funciona en un Mac Studio M3 Ultra, un servidor Linux existente con GPU o incluso solo con CPU. El primer paso es un inventario: qué casos de uso son prioritarios, qué modelos se adaptan mejor, qué hardware hay disponible o hay que adquirir.
Para equipos sin experiencia previa en IA, nuestros programas de formación crean la base necesaria para desplegar — no solo instalar — un stack de IA local. La soberanía de datos está garantizada estructuralmente por LocalAI, pero debe diseñarse desde el inicio, no añadirse después del primer incidente de privacidad.
Para explorar cómo sería un stack local con LocalAI para su empresa, contacte con nosotros.