En lugar de construir un modelo distinto y desde cero para cada tarea concreta (traducir, resumir, responder preguntas), gran parte de la IA actual se apoya en un mismo tipo de modelo base, entrenado una vez con muchísimos datos, sobre el que después se construyen aplicaciones muy distintas entre sí. Ese modelo base es lo que se conoce como modelo de fundación (foundation model): un modelo entrenado a gran escala con datos muy diversos, pensado para servir como punto de partida adaptable a múltiples tareas posteriores, en lugar de estar diseñado para una única función específica.
Por qué se llaman «de fundación», como los cimientos de un edificio
El nombre refleja bien su función: igual que los cimientos de un edificio sostienen estructuras muy distintas construidas encima, un modelo de fundación sostiene aplicaciones muy diversas construidas a partir de él, ya sea mediante fine-tuning, mediante prompts específicos, o combinándolo con otras herramientas externas.
Características que definen a este tipo de modelos
- Se entrenan con volúmenes de datos extremadamente grandes y diversos, no limitados a una tarea o dominio concreto.
- Requieren una inversión computacional enorme para entrenarse desde cero, algo que solo unas pocas organizaciones en el mundo pueden permitirse actualmente.
- Sirven como base adaptable: el mismo modelo puede especializarse después en tareas muy distintas mediante fine-tuning o mediante instrucciones específicas.
Ejemplos conocidos de modelos de fundación
Los grandes modelos de lenguaje que sostienen asistentes conversacionales como ChatGPT o Claude son, en esencia, modelos de fundación adaptados después para la conversación. Modelos de generación de imágenes que sirven de base para múltiples aplicaciones distintas de creación visual también entran dentro de esta categoría, al ser entrenados de forma general y después especializados para usos concretos.
Por qué esta forma de trabajar ha cambiado la economía del desarrollo de IA
Antes, cada aplicación de IA solía requerir entrenar un modelo específico desde cero para su tarea concreta, un proceso caro y lento. Con los modelos de fundación, la mayoría de empresas y desarrolladores parten de un modelo ya entrenado por otra organización, y solo invierten en adaptarlo (mediante prompts, fine-tuning o RAG) a su caso de uso concreto, democratizando el acceso a capacidades de IA que antes exigían recursos fuera del alcance de casi cualquier empresa.