Checklist: cómo saber si una tarea está preparada para automatizarse con IA

Automatizar una tarea con inteligencia artificial (IA) no empieza por elegir una herramienta, sino por comprobar si el proceso puede delegarse de forma controlada. Una evaluación previa ayuda a evitar proyectos que no resuelven un problema claro, dependen de datos inadecuados o no cuentan con mecanismos para detectar y corregir errores.

La siguiente checklist está pensada para direcciones y responsables de operaciones. Sirve como guía de evaluación, no como certificación ni como sustituto de las obligaciones legales aplicables. La normativa depende, entre otros factores, del territorio, el uso previsto, los datos tratados y las personas afectadas.

1. Defina el objetivo y delimite la tarea

• ¿Qué problema concreto se quiere resolver? Describa el resultado esperado, por ejemplo, clasificar solicitudes, extraer información de documentos o preparar un borrador para revisión.
• ¿Qué parte del proceso se automatizará y cuál seguirá en manos de una persona? Delimite entradas, salidas, excepciones y decisiones que la IA no debe tomar.
• ¿Existe una medida para comparar resultados? Defina cómo se observarán la calidad, el tiempo, el coste y otros indicadores relevantes antes de probar el sistema.
• ¿Se ha considerado una alternativa más sencilla? Una regla automatizada, una mejora del flujo de trabajo o una herramienta convencional pueden ser suficientes.

Si el objetivo no puede expresarse con claridad, será difícil determinar si la IA funciona mejor que el proceso actual o si aporta valor.

2. Compruebe los datos antes de valorar el modelo

• ¿Están disponibles los datos necesarios y se pueden usar para este propósito? Revise su origen, permisos, restricciones contractuales y condiciones de acceso.
• ¿Son pertinentes, suficientemente completos y actuales? Identifique duplicados, errores, lagunas y cambios previsibles en los datos.
• ¿Contienen información personal, confidencial o sensible? Determine qué información se introduce, quién puede acceder a ella, dónde se procesa y cuánto tiempo se conserva.
• ¿Se conoce el recorrido de los datos? Documente qué información entra y sale, y qué proveedores o sistemas intervienen.
• ¿El proveedor explica las limitaciones del sistema y el uso que hace de los datos? Si no hay información suficiente para evaluar estos aspectos, regístrelo como una incertidumbre pendiente.

La disponibilidad técnica no equivale a autorización para cualquier uso. Las cuestiones de privacidad, seguridad, propiedad intelectual y conservación deben revisarse según el caso y la jurisdicción aplicable.

3. Compare el desempeño con el proceso actual

• ¿Se ha probado el sistema con ejemplos representativos del trabajo real? Incluya casos habituales, excepciones y situaciones difíciles.
• ¿Se han definido criterios de aceptación antes de la prueba? Por ejemplo, qué tipos de error son tolerables y cuáles obligan a detener o revisar el proceso.
• ¿Se evalúa algo más que la rapidez? Considere la precisión, la consistencia, la robustez ante entradas distintas y el comportamiento en grupos o situaciones relevantes.
• ¿Se conocen los límites de la evaluación? Un buen resultado en una muestra de prueba no garantiza el mismo desempeño en otros contextos o después de cambios en los datos o el sistema.

Compare la IA con la alternativa vigente usando criterios equivalentes. Si no mejora un resultado importante o introduce errores difíciles de detectar, la automatización puede no estar justificada.

4. Mida las consecuencias de un error

• ¿Quién podría verse afectado por una salida equivocada? Identifique a clientes, empleados, proveedores u otras personas relacionadas con el proceso.
• ¿Qué daño operativo, económico, reputacional o personal podría causar el error? Distinga entre una salida que se puede corregir fácilmente y una que desencadena una decisión difícil de revertir.
• ¿Qué decisiones dependen del resultado? Aclare si la IA propone información, prioriza casos o influye en una decisión final.
• ¿Hay una vía para cuestionar o corregir el resultado? Determine cómo se revisan las salidas y cómo se atienden reclamaciones o incidencias.

Cuanto mayores sean las consecuencias potenciales, más sólida debe ser la evaluación y más directa la supervisión. Si no es posible identificar a quién afecta el sistema o cómo reparar un fallo, conviene resolver esas carencias antes de desplegarlo.

5. Asigne responsables y establezca supervisión humana

• ¿Hay una persona responsable del sistema y del proceso? Debe quedar claro quién autoriza el uso, quién lo opera y quién decide ante una incidencia.
• ¿La persona supervisora tiene información y capacidad para intervenir? La revisión humana debe permitir detectar, corregir o escalar resultados, no limitarse a aprobarlos automáticamente.
• ¿Están definidas las situaciones que requieren revisión obligatoria? Por ejemplo, resultados inciertos, casos fuera de los criterios previstos o decisiones con efectos importantes.
• ¿El personal entiende las limitaciones y el uso permitido? Incluya instrucciones y formación adecuadas para quienes utilizan o revisan el sistema.

La supervisión debe corresponder al nivel de impacto. En una tarea de bajo riesgo puede bastar una revisión por muestreo; en procesos de mayor impacto puede ser necesario verificar cada resultado relevante antes de actuar.

6. Revise los riesgos y los requisitos aplicables

• ¿Se han identificado riesgos de privacidad, seguridad, sesgo, uso indebido y errores sistemáticos? Registre también qué medidas reducen cada riesgo y qué aspectos siguen sin resolverse.
• ¿Se han revisado las condiciones del proveedor? Compruebe las responsabilidades, el acceso a datos, los cambios del servicio, la notificación de incidentes y las opciones para terminar la relación.
• ¿Se conocen las obligaciones legales aplicables? La respuesta depende del territorio y del uso concreto. Antes de desplegar, determine si se aplican normas sobre protección de datos, trabajo, consumo, seguridad u otros ámbitos.
• ¿Se han documentado la finalidad, las decisiones y las medidas de control? Mantenga registros suficientes para explicar cómo se evaluó y autorizó el sistema.

El NIST AI Risk Management Framework ofrece orientación para abordar la confianza y los riesgos de la IA. Por su parte, el marco de reporte del Proceso de Hiroshima del G7 (HAIP) promovido por la OCDE permite a organizaciones participantes comunicar prácticas de gestión de riesgos de forma voluntaria. Según la información disponible, la Secretaría de la OCDE comprueba que las respuestas y los materiales de apoyo estén presentes y accesibles, pero no verifica el contenido sustantivo de las declaraciones. Participar o aparecer en ese marco no equivale a una certificación ni a un aval de las prácticas de una organización.

Por tanto, estas referencias pueden ayudar a estructurar una evaluación, pero no sustituyen la revisión de las normas vinculantes que correspondan. Las obligaciones no se deducen únicamente de adoptar una guía voluntaria.

7. Calcule el coste total y el valor esperado

• ¿Se han incluido los costes de integración, licencias y uso? Añada infraestructura, almacenamiento y posibles servicios externos.
• ¿Se ha estimado el trabajo necesario para revisar y corregir resultados? La supervisión, la gestión de excepciones y la actualización del proceso también consumen recursos.
• ¿Se contemplan seguridad, formación, auditoría y mantenimiento? No limite el cálculo al coste inicial de la herramienta.
• ¿El beneficio esperado puede medirse frente a esos costes? Considere ahorro de tiempo, capacidad liberada o mejoras de calidad, sin dar por hecho que se materializarán.

Una automatización puede acelerar una fase y, al mismo tiempo, trasladar trabajo a la revisión o a la gestión de errores. La evaluación debe abarcar el proceso completo.

8. Pruebe de forma controlada y prepare el seguimiento

• ¿Se empezará con una prueba acotada? Defina alcance, duración o condiciones de finalización, personas responsables y criterios para decidir si se continúa.
• ¿Se vigilará el desempeño después del despliegue? Establezca indicadores, revisiones y alertas para detectar cambios, fallos o usos fuera de lo previsto.
• ¿Existe un procedimiento de incidencias? Determine cómo registrar, escalar y corregir problemas, y cuándo pausar el sistema.
• ¿Se reabrirá la evaluación si cambian el modelo, los datos o el proceso? Una aprobación inicial no cubre automáticamente cambios posteriores.
• ¿Hay condiciones claras para ampliar, ajustar o retirar la solución? La decisión de escalar debe basarse en resultados observados y riesgos controlados.

Decisión final: avanzar, ajustar o aplazar

Avance a una prueba limitada si el objetivo y los criterios están definidos, los datos y permisos se han revisado, hay una persona responsable y existen mecanismos de supervisión e incidencias.

Ajuste el diseño si el caso parece viable, pero faltan controles, datos representativos, formación o claridad sobre las responsabilidades.

Aplace el despliegue si no se pueden evaluar las consecuencias de los errores, proteger los datos, atender a las personas afectadas o cumplir los requisitos aplicables. La decisión de automatizar no es solo técnica: exige poder explicar qué hace el sistema, quién responde por su uso y cómo se actuará cuando falle.