Capítulo V · Sección 3 · Obligaciones de los proveedores de modelos de IA de uso general con riesgo sistémico
Artículo 55 — Obligaciones de los proveedores de modelos de IA de uso general con riesgo sistémico
▼ Texto primario, literal. Nuestras anotaciones aparecen más abajo, visiblemente separadas.
1. Además de las obligaciones enumeradas en los artículos 53 y 54, los proveedores de modelos de IA de uso general con riesgo sistémico:
a) evaluarán los modelos de conformidad con protocolos y herramientas normalizados que reflejen el estado de la técnica, lo que incluye la realización y documentación de pruebas de simulación de adversarios con el modelo con vistas a detectar y mitigar riesgos sistémicos;
b) evaluarán y mitigarán los posibles riesgos sistémicos a escala de la Unión que puedan derivarse del desarrollo, la introducción en el mercado o el uso de modelos de IA de uso general con riesgo sistémico, así como el origen de dichos riesgos;
c) vigilarán, documentarán y comunicarán, sin demora indebida, a la Oficina de IA y, en su caso, a las autoridades nacionales competentes, la información pertinente sobre incidentes graves y las posibles medidas correctoras para resolverlos;
d) velarán por que se establezca un nivel adecuado de protección de la ciberseguridad para el modelo de IA de uso general con riesgo sistémico y la infraestructura física del modelo.
2. Los proveedores de modelos de IA de uso general con riesgo sistémico podrán recurrir a códigos de buenas prácticas en el sentido de lo dispuesto en el artículo 56 para demostrar el cumplimiento de las obligaciones establecidas en el apartado 1 del presente artículo, hasta que se publique una norma armonizada. El cumplimiento de las normas armonizadas europeas otorga a los proveedores presunción de conformidad en la medida en que tales normas regulen dichas obligaciones. Los proveedores de modelos de IA de uso general que no se adhieran a un código de buenas prácticas aprobado o no cumplan una norma armonizada europea deberán demostrar que cumplen sus obligaciones por medios alternativos adecuados para su evaluación por parte de la Comisión.
3. Toda información o documentación obtenida en virtud del presente artículo, incluidos los secretos comerciales, se tratarán de conformidad con las obligaciones de confidencialidad establecidas en el artículo 78.
Este texto es exclusivamente un instrumento de documentación y no surte efecto jurídico. Las instituciones de la UE no asumen responsabilidad alguna por su contenido. Las versiones auténticas de los actos pertinentes, incluidos sus preámbulos, son las publicadas en el Diario Oficial de la Unión Europea, que pueden consultarse a través de EUR-Lex.
Considerando 110 — contexto interpretativo
Los modelos de IA de uso general pueden plantear riesgos sistémicos, por ejemplo, cualquier efecto negativo real o razonablemente previsible en relación con accidentes graves, perturbaciones de sectores críticos y consecuencias graves para la salud y la seguridad públicas, cualquier efecto negativo real o razonablemente previsible sobre los procesos democráticos y la seguridad pública y económica o la difusión de…
Considerando 114 — contexto interpretativo
Los proveedores de modelos de IA de uso general que presenten riesgos sistémicos deben estar sujetos, además de a las obligaciones impuestas a los proveedores de modelos de IA de uso general, a obligaciones encaminadas a detectar y atenuar dichos riesgos y a garantizar un nivel adecuado de protección en materia de ciberseguridad, independientemente de si dichos modelos se ofrecen como modelos independientes o están…
Considerando 115 — contexto interpretativo
Los proveedores de modelos de IA de uso general con riesgos sistémicos deben evaluar y mitigar los posibles riesgos sistémicos. Si, a pesar de los esfuerzos por detectar y prevenir los riesgos relacionados con un modelo de IA de uso general que pueda presentar riesgos sistémicos, el desarrollo o el uso del modelo provoca un incidente grave, el proveedor del modelo de IA de uso general debe, sin demora indebida,…
Qué significa para ti
En tus términos · Obligaciones de los modelos con riesgo sistémico
Las pruebas adversarias del modelo se ejecutan y documentan; las ejecuciones y sus registros son trabajo de ingeniería.
- Ejecuciones documentadas de pruebas adversarias del modelo
En tus términos · Obligaciones de los modelos con riesgo sistémico
Las evaluaciones, el seguimiento de incidentes y la seguridad de los pesos del modelo son programas operativos con calendario y evidencias, no ejercicios puntuales.
- Programa de evaluación con pruebas adversarias
- Controles de seguridad de los pesos del modelo
Cómo se nota el falloLa evaluación que habría encontrado la capacidad fue un benchmark ejecutado una vez, y desde entonces no se ha apuntado nada adversario al modelo.
En tus términos · Obligaciones de los modelos con riesgo sistémico
Si tu cómputo de entrenamiento se acerca al umbral de presunción, el reloj de notificación y obligaciones empieza con el entrenamiento, no con el lanzamiento.
- Contabilidad del cómputo de entrenamiento
Obligaciones derivadas de este artículo
Escenarios que tocan esta disposición
Un modelo abierto, ajustado y vendido dentro de tu producto
Ilustrativo Lectura aún en formación
Cogiste un modelo de pesos abiertos, lo ajustaste con tus propios datos y ahora impulsa una función de pago del producto que vendes.
- Tu rol
- Proveedor
- Dónde encaja
- Sin clasificar En aplicación 2 ago 2025
- Lo decide
- Capítulo V, como proveedor del modelo modificado, y por separado lo que el artículo 6 diga del sistema que construiste sobre él.
Qué se aplica
Qué tienes que poder presentar
- Documentación del modelo
- Evaluación de condición de proveedor para los ajustes
- Mandato escrito del representante autorizado del modelo
- Notas de incorporación para roles que tocan IA
- Paquete de información para intermedios
- Plan de capacitación para quienes operan sistemas de IA
- Resumen público del contenido de entrenamiento
Qué cambiaría la respuesta
- La excepción del artículo 53, apartado 2, cubre modelos divulgados con licencia libre y de código abierto con parámetros, arquitectura e información de uso públicos, y nunca cubre un modelo con riesgo sistémico.
- El considerando 103 lee los componentes proporcionados a cambio de un precio o monetizados de otro modo como fuera de las excepciones de código abierto. Un considerando es contexto interpretativo, no Derecho operativo, y es el eslabón más débil de esta fila.
- Cruzar el umbral de riesgo sistémico del artículo 51 añade las obligaciones del artículo 55 y elimina la excepción por completo.
Si prefieres no leer la ley
La página de fundamentos explica las categorías del propio Reglamento en orden: ámbito, rol, nivel, fecha. La vista de ingeniería agrupa las obligaciones por la capacidad de plataforma que exigen.
Empezar por los fundamentos → Abrir la vista de ingeniería →