La ingeniería de prompts debería ser el primer paso ante casi cualquier problema con un LLM. Cuesta poco, no requiere preparar conjuntos de datos y ayuda a determinar si las limitaciones del modelo se deben a la falta de contexto o a su comportamiento. Usa prompts para estandarizar el formato, añadir instrucciones explícitas e incluir ejemplos dentro del propio prompt (few-shot) que definan el estilo y las restricciones de salida. Estas estrategias son especialmente eficaces para resumir, generar código, crear contenido breve y realizar transformaciones basadas en reglas. Instrumenta los resultados con heurísticas sencillas y comprobaciones automatizadas para medir si los prompts cumplen tus umbrales de precisión y costo de fallo antes de invertir en RAG o ajuste fino.

Elige RAG cuando el modelo necesite acceder a datos actualizados, documentos internos, contratos o información especializada sobre productos que no formaba parte de sus datos de entrenamiento. RAG mejora la precisión factual al proporcionar fragmentos relevantes en tiempo de ejecución y, a menudo, se implementa más rápido que un ajuste fino completo. Ten en cuenta la calidad de la recuperación, la actualidad del índice y la estrategia de segmentación. Prevé una latencia mayor y más infraestructura (bases de datos vectoriales, almacenes de metadatos y ajustes de recuperación). Algo fundamental: RAG traslada las preocupaciones de gobernanza de datos a la capa de recuperación. Debes controlar la indexación, eliminar la información de identificación personal (PII) y aplicar las políticas para mantener la privacidad de los datos de clientes y poder auditarlos.

El ajuste fino es la palanca indicada para modificar el comportamiento: lograr un formato coherente, una clasificación determinista, un estilo especializado o conseguir que el modelo interiorice patrones que los prompts no logran imponer de forma fiable. Requiere un conjunto de datos seleccionado, con ejemplos claros y anotaciones de fallos, una batería de evaluación y un plan operativo para volver a entrenar el modelo cuando cambien las especificaciones. Recurre al ajuste fino cuando el valor de mejorar la coherencia compense los costos de preparación de datos e implementación; por ejemplo, para ocultar datos en documentos legales, automatizar la evaluación de solicitudes de crédito o generar resultados estructurados de alto impacto, donde los errores pueden causar pérdidas importantes o riesgos regulatorios.

Muchos sistemas de producción combinan RAG para aportar conocimiento con un modelo ajustado para controlar el comportamiento. Este enfoque híbrido reduce las alucinaciones al fundamentar las respuestas y, a la vez, garantiza que el modelo respete formatos estrictos y requisitos de cumplimiento. Desde el punto de vista de la arquitectura, RAG se ocupa de la actualidad y de los datos propios; el ajuste fino reduce la necesidad de instrucciones complejas en los prompts y mejora su eficacia. Añade una capa de validación —verificadores de datos, analizadores deterministas o validadores de reglas de negocio— para detectar errores residuales. Para facilitar el mantenimiento, controla las versiones tanto de las instantáneas del índice como de los pesos del modelo, y establece una frecuencia de reentrenamiento en función de las métricas de deriva y las mejoras en la recuperación.

Usa esta matriz práctica: empieza con prompts para tareas de bajo riesgo o fáciles de probar; añade RAG cuando las respuestas necesiten información actual o propia; pasa al ajuste fino cuando debas garantizar el formato, el estilo o una clasificación determinista; y combina RAG con ajuste fino en casos de producción de alto valor que requieran tanto datos actualizados como un comportamiento coherente. Antes de cada paso, realiza un análisis de costos y beneficios: cuantifica el costo de los fallos, calcula el trabajo de ingeniería, identifica los datos necesarios y planifica la gobernanza y la monitorización. La guía concluye con evaluación continua y una estrategia para revertir cambios si el modelo o el índice presentan regresiones.