Obligaciones y Prescripciones del Reglamento de Inteligencia Artificial de la UE: Impacto en Diversos Sujetos

Las obligaciones del Reglamento Europeo de IA alcanzan a un amplio abanico de sujetos, desde proveedores hasta autoridades públicas. Anticipándonos a su inminente publicación, hemos iniciado en nuestro blog un recorrido por las distintas cuestiones que aborda el Reglamento.

De hecho, esta normativa europea es la primera en el mundo en intentar una regulación exhaustiva del uso de la IA y probablemente servirá de modelo para otros países que decidan seguir el ejemplo y adoptar una normativa integral para gestionar el desarrollo y el uso de la Inteligencia Artificial.

Hemos iniciado este recorrido hablando de las Prohibiciones del Reglamento. En la entrada de hoy, haremos un breve recorrido por los sujetos afectados y obligados por el reglamento.

Obligaciones para los Proveedores

Definición y Responsabilidades

Los proveedores de sistemas de IA tienen la responsabilidad primordial de garantizar que sus productos cumplan con los requisitos establecidos por el Reglamento antes de ser introducidos en el mercado o puestos en servicio¹Artículo 3, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Esto incluye la realización de evaluaciones de conformidad, la elaboración de la documentación técnica y la implementación de sistemas de gestión de riesgos. Por ejemplo, una startup que desarrolla un algoritmo de IA para diagnóstico médico debe asegurarse de que su sistema no solo funcione correctamente, sino que también cumpla con todas las normativas de privacidad y seguridad.

Sistemas de IA de Alto Riesgo

Para los sistemas de Inteligencia Artificial clasificados como de alto riesgo, las obligaciones son particularmente estrictas. Los proveedores deben llevar a cabo una evaluación de riesgos exhaustiva y continua, garantizando que los sistemas cumplan con los requisitos esenciales de seguridad y fiabilidad.

Estos requisitos incluyen, entre otros, la necesidad de transparencia, la documentación detallada y la supervisión humana adecuada²Artículo 10, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Así, una empresa que desarrolla software de reconocimiento facial para seguridad pública no solo debe preocuparse por la precisión de su sistema, sino también por cómo evitar que este se convierta en una herramienta de vigilancia masiva al estilo de «1984«.

Transparencia y Trazabilidad

Otra obligación crítica para los proveedores es asegurar la transparencia y trazabilidad de sus sistemas de IA. Esto se traduce en la necesidad de proporcionar información clara y accesible sobre las capacidades y limitaciones de los sistemas, así como sobre los datos utilizados para su entrenamiento³Artículo 13, versión final acordada del Reglamento sobre la Inteligencia Artificial.. En otras palabras, no se trata solo de crear una IA impresionante, sino también de asegurarse de que los usuarios sepan exactamente qué esperar y cómo se llegó allí. Después de todo, nadie quiere descubrir que su asistente virtual ha estado aprendiendo a partir de las conversaciones privadas de sus usuarios.

Obligaciones para los Responsables del Despliegue

Definición y Responsabilidades

Los responsables del despliegue de sistemas de IA son aquellos que utilizan estos sistemas bajo su propia autoridad. Este grupo incluye desde empresas hasta organismos públicos, y tienen la obligación de utilizar los sistemas de acuerdo con las instrucciones proporcionadas por los proveedores, garantizando que las medidas de supervisión humana sean adecuadas y efectivas⁴Artículo 28, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Por ejemplo, una compañía aérea que emplea IA para gestionar la asignación de vuelos debe asegurarse de que el sistema no discrimine a los pasajeros por razones arbitrarias.

Monitorización y Reporte

Los responsables del despliegue deben monitorizar continuamente el funcionamiento de los sistemas de IA y reportar cualquier incidente o anomalía significativa a los proveedores y, en su caso, a las autoridades competentes⁵Artículo 30, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta obligación asegura que cualquier problema pueda ser identificado y corregido rápidamente, minimizando los riesgos para los usuarios y el público en general. Imagina el caos si un sistema de IA encargado de gestionar el tráfico de una ciudad decide que es hora de que todos los semáforos se pongan en verde al mismo tiempo.

Obligaciones para las Autoridades Públicas

Supervisión y Vigilancia del Mercado

Las autoridades públicas tienen un papel crucial en la supervisión y vigilancia del mercado para garantizar el cumplimiento del Reglamento. Esto incluye la realización de inspecciones, la evaluación de la conformidad de los sistemas de IA en el mercado y la imposición de sanciones en caso de incumplimiento⁶Artículo 63, versión final acordada del Reglamento sobre la Inteligencia Artificial.. La ironía radica en que, en un mundo ideal, estas mismas autoridades deberían estar usando sistemas de IA para hacer su trabajo más eficiente, no para corregir los desastres causados por otros sistemas de IA.

Espacios Controlados de Pruebas

Además, el Reglamento prevé la creación de espacios controlados de pruebas para la IA, donde las autoridades pueden supervisar el desarrollo y prueba de nuevos sistemas en un entorno regulado. Estos espacios tienen como objetivo facilitar la innovación mientras se asegura que los nuevos desarrollos cumplan con los estándares de seguridad y ética⁷Artículo 53, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Otros Sujetos y Obligaciones

Personas Afectadas

Las personas físicas ubicadas en la Unión Europea que se ven afectadas por los sistemas de IA también son sujetos importantes dentro del Reglamento. Estas personas tienen derecho a ser informadas sobre el uso de la IA en procesos que les afectan y a la protección de sus datos personales⁸Artículo 60, versión final acordada del Reglamento sobre la Inteligencia Artificial.. En otras palabras, si tu frigorífico inteligente decide compartir con el supermercado local que has estado comiendo demasiado helado, tienes derecho a saberlo.

Representantes Autorizados

Representantes autorizados de proveedores que no están establecidos en la Unión Europea tienen la obligación de asegurar que los sistemas de IA que representan cumplan con los requisitos del Reglamento antes de ser introducidos en el mercado⁹Artículo 26, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Así, si una empresa estadounidense quiere vender su tecnología de IA en Europa, deberá pasar por el riguroso proceso de validación europeo, asegurándose de que no solo sepa cómo decir «Bonjour» y «Guten Tag».

Fabricantes de Productos con Sistemas de IA

Los fabricantes que introducen en el mercado o ponen en servicio un sistema de IA junto con su producto y bajo su propio nombre o marca deben garantizar que estos sistemas cumplan con las normativas del Reglamento¹⁰Artículo 27, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Si un fabricante de coches lanza un vehículo con un sistema de conducción autónoma, tendrá que asegurarse de que el coche no solo cumple con los estándares de seguridad tradicionales, sino también con las nuevas normativas de IA.

Importadores y Distribuidores

Importadores y distribuidores de sistemas de IA en la Unión Europea tienen la responsabilidad de asegurarse de que los productos que introducen en el mercado cumplen con todas las normativas aplicables y deben cooperar con las autoridades en caso de investigaciones o auditorías¹¹Artículo 28, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Proveedores y Responsables del Despliegue Extranjeros

Proveedores y responsables del despliegue de sistemas de IA ubicados en terceros países están sujetos a las mismas normativas cuando los resultados generados por el sistema de IA se utilizan en la Unión Europea¹²Artículo 29, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Excepciones y Flexibilidades

Simplificación para Pymes

Las microempresas pueden cumplir determinados elementos del sistema de gestión de calidad de manera simplificada, siempre que no afecte al nivel de protección requerido. Esta disposición busca fomentar la participación de las pymes en el desarrollo de IA sin imponerles cargas desproporcionadas¹³Artículo 47, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Investigación y Desarrollo

Los sistemas y modelos de IA desarrollados y puestos en servicio únicamente con fines de investigación y desarrollo científico están exentos de algunas de las obligaciones del Reglamento, siempre y cuando no sean introducidos en el mercado ni puestos en servicio¹⁴Artículo 49, versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta excepción es fundamental para mantener un entorno de innovación activo y dinámico. Que la apocalipsis se desate en un entorno controlado.

Obligaciones del Reglamento Europeo de IA: consideraciones finales

En definitiva, las obligaciones del Reglamento de Inteligencia Artificial de la UE configuran un marco riguroso y detallado para la gestión de riesgos asociados con la IA, imponiendo obligaciones claras a una amplia gama de actores. Al mismo tiempo, proporciona flexibilidades para apoyar la innovación y la competitividad, particularmente para las pymes y en el ámbito de la investigación. La implementación efectiva de estas obligaciones y prescripciones será crucial para asegurar que la IA se desarrolle y utilice de manera que beneficie a la sociedad en su conjunto, protegiendo al mismo tiempo los derechos fundamentales y la seguridad pública.

Infografía Reglamento Europeo de IA. Sujetos afectados y obligados

 

* Para descargar la imagen, haz clic derecho sobre ella y luego la opción «guardar imagen como…». Si lo deseas, también puedes descargar la versión en pdf.