Capítulo III · Sección 2 · Requisitos de los sistemas de IA de alto riesgo
Artículo 13 — Transparencia y comunicación de información a los responsables del despliegue
▼ Texto primario, literal. Nuestras anotaciones aparecen más abajo, visiblemente separadas.
1. Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de un modo que se garantice que funcionan con un nivel de transparencia suficiente para que los responsables del despliegue interpreten y usen correctamente sus resultados de salida. Se garantizará un tipo y un nivel de transparencia adecuados para que el proveedor y el responsable del despliegue cumplan las obligaciones pertinentes previstas en la sección 3.
2. Los sistemas de IA de alto riesgo irán acompañados de las instrucciones de uso correspondientes en un formato digital o de otro tipo adecuado, las cuales incluirán información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para los responsables del despliegue.
3. Las instrucciones de uso contendrán al menos la siguiente información:
a) la identidad y los datos de contacto del proveedor y, en su caso, de su representante autorizado;
b) las características, capacidades y limitaciones del funcionamiento del sistema de IA de alto riesgo, con inclusión de:
i) su finalidad prevista,
ii) el nivel de precisión (incluidos los parámetros para medirla), solidez y ciberseguridad mencionado en el artículo 15 con respecto al cual se haya probado y validado el sistema de IA de alto riesgo y que puede esperarse, así como cualquier circunstancia conocida y previsible que pueda afectar al nivel de precisión, solidez y ciberseguridad esperado,
iii) cualquier circunstancia conocida o previsible, asociada a la utilización del sistema de IA de alto riesgo conforme a su finalidad prevista o a un uso indebido razonablemente previsible, que pueda dar lugar a riesgos para la salud y la seguridad o los derechos fundamentales a que se refiere el artículo 9, apartado 2,
iv) en su caso, las capacidades y características técnicas del sistema de IA de alto riesgo para proporcionar información pertinente para explicar sus resultados de salida,
v) cuando proceda, su funcionamiento con respecto a determinadas personas o determinados colectivos de personas en relación con los que esté previsto utilizar el sistema,
vi) cuando proceda, especificaciones relativas a los datos de entrada, o cualquier otra información pertinente en relación con los conjuntos de datos de entrenamiento, validación y prueba usados, teniendo en cuenta la finalidad prevista del sistema de IA de alto riesgo,
vii) en su caso, información que permita a los responsables del despliegue interpretar los resultados de salida del sistema de IA de alto riesgo y utilizarla adecuadamente;
c) los cambios en el sistema de IA de alto riesgo y su funcionamiento predeterminados por el proveedor en el momento de efectuar la evaluación de la conformidad inicial, en su caso;
d) las medidas de supervisión humana a que se hace referencia en el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de salida de los sistemas de IA de alto riesgo por parte de los responsables del despliegue;
e) los recursos informáticos y de hardware necesarios, la vida útil prevista del sistema de IA de alto riesgo y las medidas de mantenimiento y cuidado necesarias (incluida su frecuencia) para garantizar el correcto funcionamiento de dicho sistema, también en lo que respecta a las actualizaciones del *software*;
f) cuando proceda, una descripción de los mecanismos incluidos en el sistema de IA de alto riesgo que permita a los responsables del despliegue recabar, almacenar e interpretar correctamente los archivos de registro de conformidad con el artículo 12.
Este texto es exclusivamente un instrumento de documentación y no surte efecto jurídico. Las instituciones de la UE no asumen responsabilidad alguna por su contenido. Las versiones auténticas de los actos pertinentes, incluidos sus preámbulos, son las publicadas en el Diario Oficial de la Unión Europea, que pueden consultarse a través de EUR-Lex.
Considerando 65 — contexto interpretativo
El sistema de gestión de riesgos debe consistir en un proceso iterativo continuo que sea planificado y ejecutado durante todo el ciclo de vida del sistema de IA de alto riesgo. Dicho proceso debe tener por objeto detectar y mitigar los riesgos pertinentes de los sistemas de IA para la salud, la seguridad y los derechos fundamentales. El sistema de gestión de riesgos debe revisarse y actualizarse periódicamente para…
Considerando 72 — contexto interpretativo
A fin de abordar las preocupaciones relacionadas con la opacidad y complejidad de determinados sistemas de IA y ayudar a los responsables del despliegue a cumplir sus obligaciones en virtud del presente Reglamento, debe exigirse transparencia respecto de los sistemas de IA de alto riesgo antes de su introducción en el mercado o su puesta en servicio. Los sistemas de IA de alto riesgo deben diseñarse de modo que…
Qué significa para ti
En tus términos · Transparencia e instrucciones para el despliegue
La interpretabilidad de la salida es en parte diseño de interfaz: expón confianza, procedencia y modos de fallo conocidos donde quien despliega pueda verlos.
- Metadatos de salida legibles para quien despliega
En tus términos · Transparencia e instrucciones para el despliegue
Parte de las instrucciones es dato operativo: el artículo 13, apartado 3, letra e), pide los recursos de cómputo y hardware, la vida útil esperada y la cadencia de mantenimiento y actualizaciones. Esos números salen de ti, y lo que quede impreso se convierte en el compromiso que se le exige a operaciones.
- Datos de recursos, vida útil y mantenimiento para las instrucciones
En tus términos · Transparencia e instrucciones para el despliegue
Las instrucciones de uso son un artefacto de producto: para qué sirve el sistema, para qué no debe usarse y qué tiene que preparar quien lo despliega.
- Instrucciones de uso por sistema
Cómo se nota el falloUn responsable del despliegue usa el sistema para algo que en realidad no hace bien, y las instrucciones nunca dijeron dónde estaba el límite.
Obligaciones derivadas de este artículo
Se cita mal a menudo
Lo que se dice
El artículo 13 es la norma que obliga a decir a las personas que hablan con una IA.
Lo que dice la disposición
El artículo 13 trata de la transparencia hacia el responsable del despliegue: un sistema de alto riesgo debe ser lo bastante transparente para que este interprete sus resultados y los use adecuadamente, y debe ir acompañado de instrucciones de uso. El deber de informar a una persona física de que interactúa con un sistema de IA es el artículo 50, apartado 1, se aplica también a sistemas que no son de alto riesgo y corresponde al proveedor.
Si prefieres no leer la ley
La página de fundamentos explica las categorías del propio Reglamento en orden: ámbito, rol, nivel, fecha. La vista de ingeniería agrupa las obligaciones por la capacidad de plataforma que exigen.
Empezar por los fundamentos → Abrir la vista de ingeniería →