Capítulo IX · Sección 4 · Vías de recurso
Artículo 86 — Derecho a explicación de decisiones tomadas individualmente
▼ Texto primario, literal. Nuestras anotaciones aparecen más abajo, visiblemente separadas.
1. Toda persona que se vea afectada por una decisión que el responsable del despliegue adopte basándose en los resultados de salida de un sistema de IA de alto riesgo que figure en el anexo III, con excepción de los sistemas enumerados en su punto 2, y que produzca efectos jurídicos o le afecte considerablemente del mismo modo, de manera que considere que tiene un efecto perjudicial para su salud, su seguridad o sus derechos fundamentales, tendrá derecho a obtener del responsable del despliegue explicaciones claras y significativas acerca del papel que el sistema de IA ha tenido en el proceso de toma de decisiones y los principales elementos de la decisión adoptada.
2. No se aplicará el apartado 1 a la utilización de sistemas de IA para los que existan excepciones o restricciones a la obligación prevista en dicho apartado derivadas del Derecho de la Unión o nacional de conformidad con el Derecho de la Unión.
3. El presente artículo se aplicará únicamente en la medida en que el derecho a que se refiere el apartado 1 no esté previsto de otro modo en el Derecho de la Unión.
Este texto es exclusivamente un instrumento de documentación y no surte efecto jurídico. Las instituciones de la UE no asumen responsabilidad alguna por su contenido. Las versiones auténticas de los actos pertinentes, incluidos sus preámbulos, son las publicadas en el Diario Oficial de la Unión Europea, que pueden consultarse a través de EUR-Lex.
Qué significa para ti
En tus términos · Derecho a explicación de decisiones individuales
La explicación significativa está limitada por lo que el sistema expone: factores, pesos o al menos el papel de la salida tienen que poder reconstruirse.
- Factores de decisión capturados por salida
En tus términos · Derecho a explicación de decisiones individuales
La explicación es un proceso de cara al usuario: quién la solicita, qué recibe y con qué rapidez. Sin registros de decisión es incontestable.
- Proceso de solicitud de explicaciones
Cómo se nota el falloAlguien afectado por una decisión pregunta por qué, y la respuesta honesta es que el sistema le puntuó y nadie puede decir con base en qué.
En tus términos · Derecho a explicación de decisiones individuales
La jurisprudencia aún traza la línea entre explicación y secreto comercial; síguela antes de prometer menos.
Obligaciones derivadas de este artículo
Escenarios que tocan esta disposición
Una función de decisión crediticia
Ilustrativo
Un modelo puntúa a los solicitantes de un producto de préstamo y la puntuación guía la decisión, con una persona que puede anularla.
- Tu rol
- ProveedorResponsable del despliegue
- Dónde encaja
- Alto riesgo 2 dic 2027
- Lo decide
- Anexo III, punto 5, letra b): sistemas destinados a evaluar la solvencia de personas físicas o establecer su calificación crediticia, salvo los usados para detectar fraude financiero.
Qué se aplica
- Sistema de gestión de riesgos
- Datos y gobernanza de datos
- Documentación técnica
- Registro automático de eventos
- Supervisión humana
- Precisión, solidez y ciberseguridad
- Obligaciones del responsable del despliegue
- Evaluación de impacto en los derechos fundamentales
- Evaluación de la conformidad
- Registro en la base de datos de la UE
- Derecho a explicación de decisiones individuales
Qué tienes que poder presentar
- Almacenamiento de registros a prueba de manipulación
- Análisis de uso indebido previsible por versión
- Batería de pruebas adversarias y de inyección
- Canal de señales de riesgo desde producción
- Comunicación a las personas trabajadoras
- Decisión de vía de conformidad por sistema
- Decisión documentada sobre el formato aplicable
- Determinación de ámbito documentada
- Entradas de registro por sistema
- Esquema de eventos de inferencia
- Evaluación de impacto en derechos fundamentales
- Expediente técnico del anexo IV
- Experiencia de supervisión con vía de anulación
- Factores de decisión capturados por salida
- Fichas de datos con procedencia
- Generación de documentación integrada en CI
- IDs de correlación de decisiones entre servicios
- Informe de examen de sesgos
- Interruptor de parada y anulación, con pruebas
- Mapa de riesgos a controles en los documentos de diseño
- Niveles de precisión y métricas declarados
- Nota de representatividad de la población
- Proceso de solicitud de explicaciones
- Registro de instrucciones de despliegue por sistema
- Registro de riesgos vivo con cadencia de revisión
- Registros de linaje por ejecución
- Retención de registros del lado del despliegue
- Roles de supervisión designados
- Runbook de reconstrucción
- Runbook de supervisión
- SLOs de rendimiento del modelo con alertas
- Supuestos declarados por conjunto de datos
- Vía de escalado para riesgo emergente
Qué cambiaría la respuesta
- A diferencia del caso de contratación, este arrastra una evaluación de impacto relativa a los derechos fundamentales: el artículo 27, apartado 1, nombra expresamente el punto 5, letra b), del anexo III.
- Limitar el sistema a la detección de fraude lo saca del punto 5, letra b). Puntuar a las mismas personas para decidir un préstamo lo devuelve.
- Una persona afectada puede pedir una explicación de la decisión individual conforme al artículo 86, y esa explicación sale de los mismos registros que pidió el artículo 12.
Si prefieres no leer la ley
La página de fundamentos explica las categorías del propio Reglamento en orden: ámbito, rol, nivel, fecha. La vista de ingeniería agrupa las obligaciones por la capacidad de plataforma que exigen.
Empezar por los fundamentos → Abrir la vista de ingeniería →