Insights · AI
Las respuestas fiables nacen de tus fuentes, no de las conjeturas del modelo. Recuperación, reglas y control humano reducen el riesgo.
Un modelo de lenguaje no consulta un archivo cuando responde: genera la secuencia de palabras más probable dado el contexto. Cuando una pregunta toca información que no está en sus datos de entrenamiento, o que cambió después del entrenamiento, el modelo no se detiene ni dice «no lo sé». Sigue produciendo texto plausible, con el mismo tono seguro que usaría para una respuesta correcta. Este es el mecanismo detrás de las llamadas alucinaciones: no son un error ocasional que corregir, sino el comportamiento natural de una herramienta que optimiza la fluidez, no la verdad.
El peor riesgo no es la respuesta evidentemente errónea, que se detecta de inmediato. Es la respuesta verosímil: una referencia normativa que no existe, una cláusula contractual citada con seguridad pero inventada, una fecha o una cifra insertada para completar la frase. En un contexto empresarial, esto convierte una herramienta útil en una fuente de riesgo operativo y reputacional. Pedirle al modelo que «sea preciso» no lo resuelve, porque el modelo no tiene forma de distinguir lo que recuerda de lo que construye sobre la marcha.
El avance no está en elegir un modelo más grande, sino en cambiar de dónde viene la respuesta. En lugar de dejar que el modelo recurra a su memoria estadística, se le entrega el material pertinente en el momento de la pregunta y se le pide responder solo sobre esa base. El modelo deja de ser el archivo y se convierte en el lector que sintetiza. Esta es la idea en la raíz del RAG, retrieval-augmented generation: primero recuperar, después generar.
Cuando llega una pregunta, el sistema no la pasa directamente al modelo. Primero busca en tus documentos —páginas, contratos, procedimientos, fichas de producto— los pasajes más relevantes para esa solicitud concreta. Esta fase de recuperación es el corazón del mecanismo: si trae el material correcto, la respuesta tendrá fundamento; si trae material impreciso o ausente, ningún modelo podrá compensarlo. La calidad de la recuperación importa más que la potencia del modelo.
Solo en este punto entra el modelo, y recibe una instrucción precisa: responde usando exclusivamente los pasajes proporcionados; si la información no está, dilo. La diferencia respecto al uso libre es nítida. El modelo ya no tiene que adivinar: tiene que leer, seleccionar y reformular lo que tiene delante. Su talento lingüístico se pone al servicio de tu documentación, no de su imaginación.
Una respuesta seria indica de dónde viene. Cada afirmación importante debería poder rastrearse hasta el pasaje del documento del que se extrajo, de modo que una persona pueda verificarla en segundos. La cita no es un detalle estético: es lo que hace que la respuesta sea auditable. Sin trazabilidad, incluso una respuesta correcta sigue siendo un acto de fe; con trazabilidad, se convierte en una afirmación verificable.
El sistema responde solo desde un conjunto definido y actualizado de documentos, no desde toda la web ni desde la memoria interna del modelo. Acotar el perímetro de las fuentes es la primera manera de evitar que las respuestas deriven hacia información no verificada.
La abstención debe instruirse y premiarse: cuando las fuentes no contienen la respuesta, el sistema debe declararlo en lugar de llenar el vacío. Un «no figura en los documentos disponibles» vale más que una respuesta inventada.
Cuando una política cambia, se actualiza el documento y la respuesta cambia con él, sin tocar el modelo. Esto mantiene el sistema alineado con la realidad actual de la empresa y reduce las respuestas basadas en información superada.
Cada respuesta lleva consigo sus referencias a las fuentes, para que quien lee pueda comprobarlo por su cuenta. La verificabilidad transforma la confianza ciega en confianza informada y permite corregir el sistema cuando se equivoca.
Dar al sistema acceso a los documentos de la empresa plantea una cuestión de control: no todo lo recuperable debería ser recuperable por cualquiera. Los permisos de quien hace la pregunta deben aplicarse también a la recuperación. Un colaborador no debe poder obtener, a través de una respuesta sintetizada, información que no podría leer abriendo el documento original. La gobernanza del acceso no es una capa por encima del sistema: es parte del sistema.
Cuando las fuentes contienen datos personales, los principios del RGPD se aplican como a cualquier otro tratamiento: base jurídica, minimización, finalidad definida, conservación limitada. Significa decidir conscientemente qué entra en el archivo recuperable y qué no, y tratar con especial cuidado las categorías sensibles. La pregunta no es solo «¿el sistema responde bien?», sino «¿está usando datos que tiene derecho a usar, para la finalidad con la que fueron recogidos?».
Un sistema gobernado deja rastro: qué fuentes se consultaron, qué respuesta se dio, cuándo. Esto sirve para verificar, corregir y demostrar conformidad, pero a su vez debe regularse, porque también los registros pueden contener datos personales y necesitan una política de conservación. Una gobernanza madura no se limita a hacer funcionar el sistema: define quién es responsable de qué, y durante cuánto tiempo la información permanece disponible.
Antes de hablar de modelos, se decide a qué documentos puede recurrir el sistema, quién es su propietario y con qué frecuencia se actualizan. Un perímetro claro es la premisa de toda respuesta fiable.
Se verifica quién puede ver qué y dónde viven los datos personales, alineando el acceso del sistema con el acceso real de las personas y aplicando los principios de minimización desde el diseño.
Se configura el sistema para que responda solo desde el material recuperado y declare la ausencia de información cuando las fuentes no alcanzan. La abstención se trata como una respuesta correcta, no como un fallo.
Para los casos de mayor impacto, la respuesta del sistema es un borrador que una persona revisa antes de que sea definitivo. El control humano no lo ralentiza todo: se concentra donde el error costaría más.
Se observan las respuestas reales, se verifican las citas, se detectan los puntos débiles de la recuperación y se actúa sobre las fuentes. El sistema mejora actualizando documentos, no persiguiendo modelos cada vez más grandes.
Un recorrido ordenado, no un interruptor que encender
¿El RAG elimina por completo las alucinaciones?
No, las reduce de forma sustancial pero no las anula. Anclar el modelo a tus fuentes hace mucho más difícil la invención y hace verificable cada respuesta, pero queda un margen de error: una recuperación imprecisa o una síntesis forzada aún pueden producir imprecisiones. Por eso importan el control humano sobre los casos críticos y la posibilidad de verificar las citas.
¿Necesitamos reentrenar el modelo con nuestros datos?
Casi nunca, y rara vez es lo primero que conviene hacer. En la mayoría de los casos es más eficaz y más seguro proporcionar los documentos en el momento de la pregunta: actualizas una fuente y la respuesta cambia, sin intervenir en el modelo y sin incorporar tus datos de forma permanente. Es además un enfoque más respetuoso con la privacidad, porque los datos permanecen en las fuentes que controlas.
¿Qué pasa si un documento está equivocado o desactualizado?
El sistema responderá según ese documento, porque confía en las fuentes que le das. Ese es el punto central: la calidad de las respuestas depende de la calidad y la actualización del archivo. Por eso el mantenimiento de las fuentes —retirar lo obsoleto, actualizar lo que cambia— es parte integral del sistema y no una actividad accesoria.
¿Podemos controlar quién ve qué información?
Sí, y es un requisito, no una opción. La recuperación debe respetar los permisos de quien pregunta: nadie debe obtener a través de una respuesta lo que no podría leer directamente. Junto con la minimización de los datos personales y una política de conservación de los registros, esto es lo que hace al sistema compatible con el RGPD y con tus reglas internas.