← Todas las lecturas
IA·1 abr 2024

Qué es el fine-tuning de un modelo de IA

Cada vez que alguien quiere que la IA suene 'como su negocio', sale la palabra fine-tuning. Pero no siempre es lo que necesitas, y suele ser la opción más cara. Aquí te explicamos qué es y cuándo conviene.

Qué es el fine-tuning de un modelo de IA
Imagen: Unsplash

Imagina que contratas a un asistente brillante que ya sabe de casi todo, pero que no conoce tu negocio: no sabe tus precios, tu tono, tus reglas. Tienes tres maneras de ponerlo al día. Puedes darle buenas instrucciones cada vez que le pides algo. Puedes darle un manual que consulte mientras trabaja. O puedes mandarlo a un curso intensivo para que cambie su forma de pensar. Esa tercera opción —el curso intensivo— es el fine-tuning. Y como todo curso, cuesta tiempo y dinero, así que vale entender cuándo de verdad lo necesitas.

Las tres formas de adaptar una IA

Hoy hay tres caminos para que un modelo de IA se ajuste a tu negocio, y conviene conocerlos porque mucha gente paga por el más caro sin necesitarlo.

  • Prompting (instrucciones): le escribes indicaciones claras de qué hacer y cómo. Es lo más fácil y barato, y se cambia en segundos.
  • RAG (consultar una base de datos): conectas el modelo a tus documentos —catálogo, precios, políticas— y los consulta en el momento de responder. Ideal cuando necesitas información exacta y actualizada.
  • Fine-tuning (reentrenar): le das muchos ejemplos de cómo quieres que responda y el modelo ajusta su 'forma de pensar' de manera permanente.

Qué hace el fine-tuning por dentro

El fine-tuning es un proceso de entrenamiento que ajusta de forma permanente el comportamiento del modelo. A diferencia del prompting, que solo cambia las instrucciones del momento, o del RAG, que le da acceso a información externa al consultar, el fine-tuning cambia cómo razona y responde el modelo a un nivel de fondo.

Como lo resume IBM: el RAG usa los datos internos de una organización para enriquecer las instrucciones, mientras que el fine-tuning reentrena un modelo con un conjunto enfocado de datos para mejorar su desempeño en una tarea muy concreta. El fine-tuning brilla cuando necesitas que el modelo haga una sola cosa muy bien y de forma consistente.

Vale la pena marcar la diferencia con el RAG porque es la confusión más común. El RAG no cambia el modelo: le da una 'memoria de consulta'. Si le preguntan por tu precio, va a tu documento, lo lee y responde con el dato exacto. El fine-tuning, en cambio, no consulta nada en el momento: ya 'aprendió' un estilo o una manera de responder durante el entrenamiento. Por eso el RAG es mejor para hechos que cambian, y el fine-tuning para comportamientos que se repiten.

El prompting es lo más rápido de lanzar. El RAG es lo mejor para precisión de conocimiento. El fine-tuning gana en costo por consulta cuando ya tienes mucho volumen y buenos datos.

Por qué casi nunca empezarías por aquí

El fine-tuning suena atractivo —'una IA hecha a la medida de mi negocio'— pero es la opción más costosa y menos flexible de las tres. Necesitas reunir muchos ejemplos de buena calidad, pagar el entrenamiento, y volver a entrenar cada vez que algo cambia. Si mañana subes tus precios, un modelo afinado no se entera solo; en cambio, con prompting cambias una línea y con RAG actualizas un documento.

Las comparaciones de la industria son claras: el prompting es lo más fácil y barato pero ofrece menos control sobre la calidad especializada; el fine-tuning da precisión y consistencia, pero a mayor costo y con menos flexibilidad; y el RAG queda en medio, con buena exactitud factual y un esfuerzo moderado de ingeniería. La recomendación general es subir de nivel solo cuando el prompting topa con un límite medible, no antes.

Cuándo sí tiene sentido afinar

El fine-tuning empieza a pagar cuando manejas mucho volumen. Cuesta más por adelantado, pero baja el costo por consulta, así que a partir de cierta cantidad de consultas al mes puede salir más barato que mandar instrucciones largas una y otra vez. Algunos análisis de la industria ubican ese punto de quiebre por encima del medio millón de consultas mensuales, una escala que la mayoría de los negocios pequeños no alcanza. También ayuda cuando necesitas un tono o un formato muy específico que las instrucciones no logran sostener de forma consistente.

Para la enorme mayoría de los negocios de servicios y ventas, sin embargo, el camino correcto es empezar con buenas instrucciones y, si hace falta información exacta de tu negocio, agregar RAG. Así funciona un agente como Lidia: combina instrucciones claras con tu catálogo y tus políticas, sin pagar el curso intensivo desde el primer día.

Para llevar

Fine-tuning es reentrenar un modelo para que haga una cosa muy bien, de forma permanente. Es potente, pero es la herramienta más cara y rígida, así que rara vez es por donde empiezas. Primero las instrucciones, luego conectar tus datos con RAG, y el fine-tuning solo cuando el volumen y la consistencia lo justifiquen. Conocer la diferencia te ahorra pagar de más por algo que no necesitabas.

Fuentes

  • IBM — https://www.ibm.com/think/topics/rag-vs-fine-tuning-vs-prompt-engineering
  • IBM — https://www.ibm.com/think/topics/rag-vs-fine-tuning
  • DataCamp — https://www.datacamp.com/tutorial/rag-vs-fine-tuning
  • MyScale — https://www.myscale.com/blog/prompt-engineering-vs-finetuning-vs-rag/
  • Monte Carlo — https://montecarlo.ai/blog-rag-vs-fine-tuning/
Compartir