¿Cómo consigo que la IA responda con los documentos de mi empresa?
Con lo que se llama recuperación aumentada (RAG): en lugar de entrenar un modelo con tus documentos, el sistema busca los fragmentos relevantes en el momento de la pregunta y el modelo responde con esos fragmentos delante, citando de dónde salen.
Es más barato, más seguro y más fácil de mantener que entrenar un modelo propio, y permite corregir un dato cambiando el documento.
¿Por qué no entrenar un modelo con mis datos?
Porque para la mayoría de los casos es la respuesta a una pregunta que nadie ha hecho. Entrenar es caro, hay que repetirlo cuando cambia la información y no da trazabilidad: el modelo "sabe" algo pero no puede decirte de qué documento lo sacó.
Con recuperación pasa lo contrario: la información vive en tus documentos, se actualiza cambiando el documento y cada respuesta puede venir con la cita. Para una empresa, esa trazabilidad suele valer más que cualquier ganancia de estilo.
¿Qué hace falta para montarlo?
Menos de lo que parece, pero con orden:
- Los documentos accesibles en un sitio (unidad compartida, gestor documental, correo, base de datos).
- Un proceso que los trocee y los indexe, y que se vuelva a ejecutar cuando cambian.
- Permisos: quién puede consultar qué, porque la respuesta nunca debe mostrar lo que el usuario no podría abrir.
- Una interfaz donde preguntar, que puede ser un chat interno, el correo o el propio sistema que ya usáis.
¿Puede inventarse cosas igualmente?
Puede, y por eso el diseño importa. Dos medidas reducen mucho el riesgo: obligar al sistema a responder solo con lo recuperado y a citar la fuente, y hacer que diga "no lo sé" cuando no encuentra respaldo en los documentos.
Es preferible un sistema que responde a ocho de cada diez preguntas con cita que uno que responde a diez con una inventada por medio: la primera se puede usar, la segunda hay que revisarla siempre y deja de ahorrar tiempo.
¿Los documentos salen de mi empresa?
Depende de la arquitectura, y es una decisión que se toma al principio, no al final. Se puede trabajar con proveedores que no usan los datos para entrenar, con retención cero, y se puede limitar qué fragmentos salen en cada consulta.
Si hay datos especialmente sensibles, se aíslan: no todo tiene que estar en el mismo índice, y a menudo el 90% del valor está en documentos que no son confidenciales.
Si tienes conocimiento atrapado en documentos y en la cabeza de dos personas, es uno de los casos donde el retorno se ve antes. Lo revisamos en el diagnóstico operativo.
Ver AI Analytics Lab