RAG, fine tuning o prompting: cuál necesitas de verdad
Cuando alguien quiere que un modelo de lenguaje sepa algo nuevo, suele recurrir a una de tres herramientas: el prompting, el fine tuning o la generación aumentada por recuperación (RAG). Suenan intercambiables. No lo son. Cada una cambia una parte distinta del sistema, cuesta una cantidad distinta y encaja con un tipo distinto de problema. Elegir la equivocada es la forma más habitual de que un proyecto de IA se atasque.
Prompting: dile al modelo lo que necesitas
El prompting consiste en poner instrucciones, ejemplos y datos relevantes directamente en la petición. No cambias el modelo en absoluto. Cambias lo que ve en ese momento.
Es con diferencia la opción más barata y la más rápida de iterar. Si necesitas que el modelo adopte un tono, siga un formato o razone a lo largo de una tarea concreta, el prompting suele llevarte hasta ahí. Su límite es la ventana de contexto. Solo cabe una cantidad limitada en una petición, y todo lo que incluyas hay que aportarlo cada vez. El prompting sirve para el comportamiento y para pequeñas cantidades de contexto, no para enseñar al modelo un gran cuerpo de conocimiento.
Fine tuning: cambiar el modelo en sí
El fine tuning toma un modelo preentrenado y sigue entrenándolo con tus propios ejemplos, ajustando sus pesos internos. Tras el fine tuning, el comportamiento queda integrado. Ya no tienes que describir tu estilo preferido en cada prompt, porque el modelo lo ha absorbido.
Esto es potente para la coherencia. Si necesitas que un modelo escriba con una voz muy concreta, clasifique las cosas como lo hace tu equipo o maneje una tarea acotada con gran fiabilidad, el fine tuning brilla. Pero tiene costes reales. Necesita datos de entrenamiento depurados, requiere tiempo y cómputo, y cada vez que cambian los datos de fondo tendrías que volver a entrenar. El fine tuning enseña bien patrones y estilo. Enseña mal los hechos, y lo que peor enseña son los hechos que cambian.
RAG: deja que el modelo consulte las cosas
La generación aumentada por recuperación deja el modelo intacto y, en su lugar, le añade un paso de búsqueda. Los documentos relevantes se recuperan en el momento de responder y se colocan en el prompt como contexto.
RAG es la herramienta adecuada siempre que el conocimiento es extenso, específico o cambia a menudo. Catálogos de productos, políticas, documentación, precios, cualquier cosa que vive en documentos y se actualiza. Actualiza los documentos y las respuestas se actualizan con ellos. Sin reentrenamiento, y cada respuesta puede remitir a su fuente.
Su debilidad es que la recuperación puede fallar. Si el dato correcto no se puede encontrar, el modelo nunca lo ve. RAG depende en gran medida de lo bien que esté organizado y fragmentado el material de origen.
Una forma sencilla de decidir
Pregúntate qué estás intentando cambiar en realidad.
Si quieres que el modelo se comporte de otra manera, dé a la salida un formato determinado o razone a lo largo de una tarea, empieza por el prompting. Es gratis e inmediato.
Si quieres que el modelo tenga un estilo o una destreza coherentes que el prompting no logra producir de forma fiable, plantéate el fine tuning. Le estás enseñando un hábito.
Si quieres que el modelo conozca tus datos, sobre todo datos que cambian, usa RAG. Le estás dando una biblioteca, no una lección.
Se combinan
No son rivales. Los sistemas más sólidos suelen usar los tres. Un modelo con fine tuning para la voz y la fiabilidad, RAG para aportar datos actuales y un prompting cuidadoso para unirlo todo. El error es usar el fine tuning para inyectar conocimiento, o meter toda una base de conocimiento en un prompt, cuando la recuperación era el encaje natural.
La lección de fondo es la misma que atraviesa toda la IA moderna. El modelo es el motor de razonamiento. Tu información tiene que llegarle limpia, en el momento adecuado y en una forma que pueda usar. El fine tuning cambia el motor. El prompting lo dirige. RAG lo alimenta. Saber qué palanca estás accionando es la mayor parte del trabajo.
Haz que tu negocio sea recomendable para la IA
Estos son los mecanismos que hay detrás de la visibilidad en IA. Si quieres ayuda para convertirlos en una estructura que funcione para tu negocio, hablemos.
Hablemos →