Auditoría de las estructuras de gobierno, responsabilidades, procedimientos internos y mecanismos de supervisión establecidos por la organización para gestionar el uso de la inteligencia artificial.

Controles alineados principalmente con el artículo 17 del AI Act.

Gestión de riesgos

Evaluación del sistema de gestión de riesgos exigido por el artículo 9 del Reglamento.

Se analiza la existencia de metodologías de identificación, evaluación, tratamiento y seguimiento de riesgos asociados al sistema de inteligencia artificial durante todo su ciclo de vida.

Gobernanza y calidad de datos

Revisión de los conjuntos de datos utilizados para entrenamiento, validación y pruebas.

Se verifica la representatividad de los datos, la existencia de posibles sesgos, la calidad de la información utilizada y la trazabilidad de su origen.

Controles alineados con el artículo 10 del AI Act.

Arquitectura técnica y documentación

Análisis de la documentación técnica requerida por el Reglamento.

Se revisa la descripción funcional del sistema, la arquitectura tecnológica, los modelos utilizados, las versiones desplegadas, las limitaciones conocidas y las evidencias de validación.

Controles alineados con el artículo 11 y el Anexo IV del AI Act.

Trazabilidad y registro de eventos

Evaluación de los mecanismos de registro que permiten reconstruir decisiones, operaciones y resultados generados por el sistema.

Se verifica la existencia de logs, evidencias de actividad y mecanismos de conservación de registros.

Controles alineados con los artículos 12, 18 y 19 del AI Act.

Transparencia y explicabilidad

Análisis de la información facilitada a usuarios, operadores y responsables del sistema.

Se revisa si las limitaciones, riesgos, condiciones de uso y capacidades reales de la inteligencia artificial se encuentran adecuadamente documentadas y comunicadas.

Controles alineados con el artículo 13 del AI Act.

Supervisión humana

Evaluación de los mecanismos que permiten la intervención, supervisión, validación o corrección de las decisiones generadas por la inteligencia artificial.

Se revisa la capacidad de intervención humana efectiva en los procesos automatizados.

Controles alineados con el artículo 14 del AI Act.

Exactitud, robustez y ciberseguridad

Análisis de la seguridad y fiabilidad del sistema.

La auditoría verifica la precisión de los resultados, la resistencia frente a errores, la robustez frente a ataques adversariales y la protección frente a manipulaciones de modelos o datos.

Controles alineados con el artículo 15 del AI Act.

Derechos fundamentales e impacto sobre las personas

Evaluación de los posibles impactos sobre derechos fundamentales, igualdad de trato, no discriminación, privacidad y libertades individuales.

Se analiza la existencia de mecanismos para prevenir sesgos y efectos perjudiciales para las personas afectadas por las decisiones automatizadas.

Controles alineados con el artículo 27 del AI Act.

Monitorización y mejora continua

Verificación de los mecanismos de seguimiento del comportamiento real del sistema una vez puesto en producción.

Se analizan procesos de detección de degradación del modelo, gestión de incidencias, reentrenamientos y acciones correctivas.

Controles alineados con los artículos 20, 21, 72 y siguientes del AI Act.