Checklist de riesgos de flujos de trabajo con IA
Usa este checklist antes de poner un flujo de trabajo con IA delante de usuarios reales.
Áreas de riesgo
El control de riesgos debe ser visible en el flujo de trabajo, no quedar escondido en un documento de políticas.
- Aprobación humana
- Evidencia de origen
- Respaldo ante baja confianza
- Supuestos de modelo y proveedor
- Registros de auditoría
Qué comprobar antes de que lo vean los usuarios
Antes de un piloto, confirma qué puede decidir la IA, qué deben aprobar las personas, qué se registra y cómo se comporta el flujo de trabajo cuando la confianza es baja.
- Fronteras de decisión
- Rol del revisor
- Visualización de la evidencia
- Ruta de respaldo
- Formato de los eventos de auditoría
Fallos habituales en flujos de trabajo con IA
La mayoría de los fallos no son solo fallos del modelo. Son fallos de producto: sin ruta de revisión, fronteras de datos débiles, responsabilidades poco claras o respaldo inexistente.
- La salida de la IA parece definitiva cuando no lo es
- Nadie es responsable de los casos de baja confianza
- Los datos de origen no son visibles
- Los registros no pueden explicar qué pasó
- Los cambios de prompt no se rastrean
Risk checklist output
- Decision boundary: What AI may suggest, what it may update, and what humans must approve.
- Fallback plan: What happens when confidence is low, data is missing, or API calls fail.
- Audit log: Events that show prompt version, model output, reviewer decision, and system action.
- Pilot gate: The conditions required before real users or production data are involved.
Preguntas frecuentes
- ¿Todos los flujos de trabajo con IA necesitan revisión humana?
- No todos, pero cualquier flujo con impacto en clientes, impacto financiero o datos de origen inciertos debería definir una ruta de revisión humana.
- ¿Qué se debería registrar?
- La entrada, la evidencia de origen, la versión del prompt o del flujo de trabajo, la salida del modelo, el estado de confianza o validación, la decisión humana y la acción final del sistema.