Modelos de IA locales en la empresa: cuándo compensan

Cuando hablo de modelos de IA locales en la empresa, mucha gente piensa en algo caro y complicado: servidores, equipos técnicos, proyectos de meses. No tiene por qué. Un modelo local es, sencillamente, un modelo de lenguaje que se ejecuta en una máquina que controlas tú, en lugar de en los servidores de un proveedor. Para ciertas tareas es la mejor opción. Para otras, no. Este artículo va de cómo decido.

En mi infraestructura propia, Colmena, conviven tres cosas: n8n para orquestar los flujos, modelos locales y servicios cerrados en la nube. Para los modelos locales uso herramientas como Ollama, que permiten descargar un modelo abierto y ejecutarlo en tu propio equipo o servidor.

Tener las dos opciones no es un capricho técnico. Me permite elegir, tarea por tarea, dónde se procesa cada dato. Y esa elección es la que muchas pymes no se plantean: usan lo primero que encuentran, que casi siempre es un servicio en la nube, y mandan ahí todo, incluido lo que no deberían.

Cuatro criterios para decidir: local o nube

No tengo una regla única. Tengo cuatro preguntas que me hago antes de montar cualquier flujo con IA.

Privacidad: ¿qué dato va a leer el modelo? Es la primera y la que más pesa. Historias clínicas, datos de pacientes, nóminas, contratos, información fiscal de clientes. Si el dato es sensible, prefiero que no salga de la empresa. Un modelo local lo procesa sin enviarlo a un tercero. Cuando el dato es público o poco sensible, como la descripción de un producto o una pregunta frecuente, la nube no plantea ese problema.

Coste: ¿cuántas veces se repite la tarea? Los servicios en la nube cobran normalmente por uso. Un modelo local tiene un coste distinto: el equipo donde se ejecuta, su mantenimiento y la energía. No te voy a dar una cifra de ahorro porque depende del volumen y de la máquina. Lo que sí hago es la cuenta con el cliente: cuántas veces al mes se ejecuta la tarea, cuánto cuesta cada ejecución en la nube y cuánto cuesta tener y mantener el equipo local. Si la tarea es pequeña y poco frecuente, la nube suele salir más sencilla. Si es constante, conviene hacer los números.

Latencia: ¿cuánto puede esperar la respuesta? Un modelo local no depende de la conexión ni de la cola de un proveedor. Pero también depende de la potencia de la máquina. Para tareas que corren en segundo plano, como clasificar correos durante la noche, la velocidad casi no importa. Para una respuesta en directo a un cliente, sí. Esto no se decide en la teoría: se prueba con la tarea real y se mide.

Calidad: ¿cuánto razonamiento necesita la tarea? Los modelos más grandes de la nube razonan mejor en tareas complejas: redactar un texto largo con matices, analizar un contrato, resolver un caso con muchas condiciones. Los modelos locales que caben en un equipo razonable funcionan muy bien en tareas acotadas. Por eso el título habla de tareas simples.

Tareas simples para modelos de IA locales en la empresa

Estas son las tareas en las que un modelo local suele dar la talla. Todas tienen algo en común: el formato de entrada es parecido cada vez y la salida es corta y fácil de comprobar.

• Clasificar correos o solicitudes. ¿Es una consulta comercial, una incidencia, una factura o publicidad? Una etiqueta y a la bandeja que toca.
• Extraer datos de documentos. Sacar número de factura, fecha, proveedor e importe de un PDF para pasarlos a una hoja o a un programa de gestión.
• Resumir textos internos. Actas de reunión, notas de una visita, hilos de correo largos. Un resumen para quien no estuvo.
• Anonimizar antes de enviar. Quitar nombres, teléfonos o direcciones de un texto antes de pasarlo a un modelo en la nube para una tarea más compleja.
• Responder con información propia. Preguntas frecuentes sobre horarios, condiciones o procedimientos, siempre con la documentación de la empresa como única fuente.

El cuarto punto es el que más me gusta, porque muestra que no es una elección de todo o nada. Se pueden combinar. El modelo local hace la parte sensible y la nube hace la parte difícil, sin ver lo que no debe.

Cuándo mando la tarea a la nube

Hay tareas en las que forzar un modelo local es un error:

• Textos largos de cara al cliente, donde el tono y la precisión importan mucho.
• Razonamiento con muchas condiciones, como revisar un presupuesto complejo o comparar varias propuestas.
• Tareas poco frecuentes, donde montar y mantener un equipo local no compensa.
• Cuando no hay nadie que mantenga la máquina. Un modelo local es infraestructura. Si nadie la cuida, falla en el peor momento.

En esos casos uso servicios cerrados en la nube, revisando antes qué dato va a salir y en qué condiciones lo trata el proveedor.

Cómo lo pruebo antes de decidir

No decido por intuición. Cuando una tarea es candidata a modelo local, hago una prueba pequeña con ejemplos reales del cliente, ya anonimizados si hace falta. Comparo el resultado del modelo local con el de uno en la nube sobre los mismos casos. Miro tres cosas: cuántas respuestas son correctas, cuánto tarda cada una y cuánto costaría a su volumen real.

Si el modelo local acierta lo suficiente para esa tarea, se queda. Si no, va a la nube o se combinan. Y todo queda documentado: qué modelo, dónde corre, qué datos lee y cómo se cambia. El sistema es del cliente, no mío.

Si quieres entender cómo encaja esto en una pyme, en IA para pymes gallegas: por dónde empezar explico el paso anterior: elegir el problema antes que el modelo. Y en la página de consultoría de inteligencia artificial en Galicia cuento cómo trabajo.

Tus datos, tu decisión

Si tienes datos sensibles y dudas de dónde deberían procesarse, es una buena conversación para una sesión estratégica: sesenta minutos con tu caso en la mesa, un diagnóstico y tres acciones. Escríbeme o reserva la sesión y lo miramos juntos.