¿Cuándo debe parar una IA y preguntar a una persona?
Siempre que la acción modifique datos, mueva dinero, salga hacia un cliente o el propio sistema detecte que no está seguro. En el resto de casos puede funcionar solo.
Esa frontera se decide al diseñar el proceso y se escribe. Si no está escrita, en la práctica no existe.
¿Por qué no automatizar del todo?
Porque el coste de un error no es simétrico. Equivocarse al clasificar un correo se corrige en un minuto; equivocarse al enviar un presupuesto a un cliente o al modificar un registro contable tiene consecuencias que no se deshacen igual.
Poner una validación humana en esos puntos no es desconfianza: es la forma de poder automatizar el 80% restante con tranquilidad.
¿Cómo se decide qué pasa por una persona?
Con cuatro criterios que cubren casi todo:
- Irreversibilidad: si no se puede deshacer fácilmente, valida una persona.
- Dinero: por encima de un umbral que fija la empresa, valida una persona.
- Exposición: si el resultado lo va a ver un cliente o un tercero, valida una persona.
- Confianza del sistema: si la extracción o la decisión tiene poca seguridad, se escala en lugar de ejecutar.
¿No se convierte eso en un cuello de botella?
Solo si la validación está mal diseñada. Aprobar tiene que costar segundos: la persona recibe el trabajo hecho, lo que se va a ejecutar, en qué se ha basado y qué falta. Si para aprobar hay que reconstruir el caso, la automatización no ahorra nada.
Con el tiempo, además, los umbrales se ajustan: lo que el primer mes se revisa al 100% acaba revisándose por muestreo cuando hay datos que demuestran que el sistema acierta.
¿Qué hay que registrar de cada validación?
Qué se propuso, en qué información se basó, quién aprobó o rechazó y cuándo. Ese registro es lo que convierte la automatización en algo defendible ante una auditoría o ante un cliente que reclama.
También es material de mejora: revisando los rechazos se ve exactamente dónde el sistema falla y qué hay que ajustar.
Diseñar esa frontera con criterio es parte de cualquier implantación que hagamos. Si quieres verlo aplicado a tu operación, empieza por el diagnóstico.
Ver los servicios