Auditoría de sistema de IA: checklist técnico y qué exige el AI Act en 2026AI system audit: technical checklist and what the AI Act requires in 2026
La mayoría de lo que se publica sobre "auditoría de IA" es teoría de cumplimiento sin nada verificable. Esto es un checklist técnico real, con las normas concretas detrás de cada punto.
Most of what gets published about "AI audits" is compliance theory with nothing verifiable behind it. This is a real technical checklist, with the actual standards behind each point.
Qué es (y qué no es) una auditoría de sistema de IA
Una auditoría de sistema de IA es una revisión independiente y estructurada de cómo se diseñó, entrenó y opera un sistema de inteligencia artificial. No es una auditoría de seguridad genérica con la palabra "IA" añadida, ni un cuestionario de checklist rellenado por el propio proveedor del sistema. Cubre cuatro planos distintos:
- Datos: procedencia, calidad, sesgo y base legal del dataset de entrenamiento (RGPD si hay datos personales).
- Modelo: comportamiento, robustez frente a manipulación (prompt injection, adversarial inputs) y explicabilidad de sus decisiones.
- Operación: monitorización en producción, logging de decisiones, capacidad de intervención humana y plan de respuesta si el sistema falla.
- Gobernanza: quién es responsable de qué, documentación técnica y evaluación de riesgo formal.
Si una "auditoría de IA" no toca al menos tres de estos cuatro planos con evidencia verificable (no autodeclarada), no es una auditoría — es una consultoría de posicionamiento.
El marco legal en 2026: AI Act e ISO/IEC 42001
El Reglamento (UE) 2024/1689, conocido como AI Act, entró en vigor por fases:
- Febrero 2025: prohibición de prácticas de riesgo inaceptable (scoring social, manipulación subliminal, categorización biométrica sensible).
- Agosto 2025: obligaciones de gobernanza y transparencia para modelos de propósito general (GPAI).
- Agosto 2026: entran en vigor el grueso de las obligaciones para sistemas de alto riesgo — RRHH, crédito, salud, educación, seguridad, justicia. Aquí es donde una auditoría deja de ser opcional en la práctica.
Las sanciones del AI Act llegan hasta 35 millones de euros o el 7% de la facturación mundial para infracciones de prácticas prohibidas, y hasta 15M€ o el 3% para el resto de incumplimientos de sistemas de alto riesgo.
ISO/IEC 42001 es el estándar internacional para un sistema de gestión de IA (AIMS), publicado en 2023. No es una exigencia legal directa, pero certificarse en 42001 es, en la práctica, la forma más ordenada de poder demostrar ante un regulador o un cliente que tu organización gestiona el ciclo de vida de sus sistemas de IA de forma estructurada — documentación de riesgos, control de cambios del modelo, revisión periódica. Muchas auditorías "de IA" que se venden en España hoy no mencionan ni el AI Act por fases ni ISO 42001 de forma explícita, lo cual es una señal de alarma sobre su profundidad real.
Checklist técnico: lo que debería poder enseñarte tu proveedor de IA
- Ficha técnica del modelo (model card): arquitectura, datos de entrenamiento, límites conocidos y casos de uso no soportados.
- Evaluación de sesgo documentada sobre variables sensibles relevantes al caso de uso (no solo "lo hemos revisado").
- Registro de decisiones trazable: qué entrada produjo qué salida, con marca de tiempo verificable — sin esto, no hay forma de reconstruir un incidente a posteriori.
- Punto de intervención humana real en decisiones de alto riesgo, no un botón decorativo.
- Pruebas de robustez frente a manipulación del prompt o de la entrada (red teaming, aunque sea básico).
- Evaluación de impacto en derechos fundamentales (FRIA) cuando el sistema es de alto riesgo y hay uso público o de administraciones.
- Plan de actualización y re-evaluación del modelo — un sistema de IA no se audita una vez y se olvida; se reevalúa cuando cambian los datos o el modelo.
Un patrón que se repite en el mercado: agencias que ofrecen "auditoría de IA" centrada solo en ética y formación, sin evidencia técnica verificable del comportamiento del modelo ni trazabilidad de las decisiones. Eso cubre la parte de gobernanza, pero deja fuera exactamente lo que un regulador o un juzgado pediría ver primero: la evidencia.
Quién debería auditar tu IA
La perspectiva importa. Una auditoría hecha solo desde consultoría de cumplimiento tiende a producir un informe de gobernanza sin profundidad técnica verificable. Una auditoría con perspectiva de perito informático — la misma disciplina que se usa para que una evidencia digital resista un juzgado — aporta algo distinto: cadena de custodia de la evidencia técnica, verificación reproducible en vez de autodeclarada, y un informe pensado para sostenerse si alguna vez hay que defenderlo ante un tercero, no solo para pasar un trámite.
What it is (and isn't)
An AI system audit is an independent, structured review of how an AI system was designed, trained and operates. It is not a generic security audit with "AI" tacked on, nor a checklist filled in by the system's own vendor. It covers four distinct layers:
- Data: provenance, quality, bias and legal basis of the training dataset (GDPR when personal data is involved).
- Model: behavior, robustness against manipulation (prompt injection, adversarial inputs) and explainability of its decisions.
- Operation: production monitoring, decision logging, human intervention capability and a failure-response plan.
- Governance: who is accountable for what, technical documentation and a formal risk assessment.
If an "AI audit" doesn't touch at least three of these four layers with verifiable evidence (not self-declared), it isn't an audit — it's positioning consultancy.
The legal framework in 2026: the AI Act and ISO/IEC 42001
Regulation (EU) 2024/1689, known as the AI Act, entered into force in phases:
- February 2025: ban on unacceptable-risk practices (social scoring, subliminal manipulation, sensitive biometric categorization).
- August 2025: governance and transparency obligations for general-purpose models (GPAI).
- August 2026: most obligations for high-risk systems take effect — HR, credit, healthcare, education, security, justice. This is where an audit stops being optional in practice.
AI Act fines reach up to €35 million or 7% of global turnover for prohibited-practice infringements, and up to €15M or 3% for other high-risk non-compliance.
ISO/IEC 42001 is the international standard for an AI management system (AIMS), published in 2023. It isn't a direct legal requirement, but certifying against 42001 is, in practice, the cleanest way to demonstrate to a regulator or client that your organization manages the AI system lifecycle in a structured way — risk documentation, model change control, periodic review. Many "AI audits" sold in Spain today don't explicitly mention either the AI Act's phased timeline or ISO 42001, which is a warning sign about their actual depth.
Technical checklist: what your AI vendor should be able to show you
- Model card: architecture, training data, known limits and unsupported use cases.
- Documented bias evaluation on sensitive variables relevant to the use case — not just "we reviewed it."
- Traceable decision log: which input produced which output, with a verifiable timestamp — without this, there's no way to reconstruct an incident afterward.
- Real human intervention point in high-risk decisions, not a decorative button.
- Robustness testing against prompt or input manipulation (red teaming, even basic).
- Fundamental rights impact assessment (FRIA) when the system is high-risk and used publicly or by public administrations.
- Update and re-evaluation plan for the model — an AI system isn't audited once and forgotten; it's re-evaluated when the data or model changes.
A pattern that keeps showing up in the market: agencies offering "AI audits" focused only on ethics and training, without verifiable technical evidence of model behavior or decision traceability. That covers the governance side, but leaves out exactly what a regulator or a court would ask to see first: the evidence.
Who should audit your AI
Perspective matters. An audit done purely from a compliance-consulting angle tends to produce a governance report without verifiable technical depth. An audit done with an expert-witness (forensic) perspective — the same discipline used to make digital evidence hold up in court — brings something different: chain of custody for the technical evidence, reproducible verification instead of self-declared claims, and a report built to hold up if it ever has to be defended to a third party, not just to pass a checkbox.