Prohibiciones en el Reglamento de IA de la UE: Análisis de Evolución y Contenido Final

Escuchar este artículo ahora Getting your Trinity Audio player ready...

El Reglamento de IA de la UE ha marcado un antes y un después en la regulación tecnológica mundial. La Unión Europea ha sido pionera en esta materia con su propuesta de Reglamento sobre la IA, presentada por la Comisión Europea el 21 de abril de 2021¹Comisión Europea. (2021). Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas sobre la inteligencia artificial (Ley de Inteligencia Artificial). COM(2021)0206 final.. Por supuesto que no es la única ni la primera regulación en esta materia, baste por ejemplo echar un vistazo al mapa de Digital Policy Alert (en el que puedes ver todas las iniciativas adoptadas a nivel mundial para regular diversos aspectos de la IA), pero desde luego que sí es la primera en establecer un marco normativo general.Acortar con IA

Esta iniciativa legislativa marcó el inicio de un largo proceso de negociación entre las instituciones europeas, los Estados miembros y diversos grupos de interés. El camino hacia el acuerdo final ha sido complejo, con numerosos debates y modificaciones, reflejando la tensión entre la necesidad de regular una tecnología en rápida evolución y el deseo de mantener la competitividad de la industria europea.

* Para descargar la imagen, haz clic derecho sobre ella y luego la opción «guardar imagen como…». Si lo deseas, también puedes descargar la versión en pdf.

Prohibiciones en el Reglamento de IA de la UE

El 8 de diciembre de 2023, el Parlamento Europeo y el Consejo de la UE alcanzaron un acuerdo provisional sobre el texto final del Reglamento²Consejo de la Unión Europea. (2023). Artificial Intelligence Act: Council and Parliament strike a deal on the first rules for AI in the world. Comunicado de prensa, 9 de diciembre de 2023.. Este acuerdo representa un hito significativo en la regulación global de la IA, estableciendo un marco normativo que busca equilibrar la innovación con la protección de los derechos fundamentales y la seguridad de los ciudadanos europeos, estableciendo determinadas obligaciones y requisitos específicos en  función de los riesgos que cada sistema de inteligencia artificial supone para los derechos de los ciudadanos.

El reglamento prohíbe aquellos sistemas de IA que inciden gravemente sobre los derechos de las personas, prohibiéndolos de forma absoluta. Detengámonos en estas prohibiciones y sus excepciones, que también las tiene. En el momento de escribir estas líneas el texto final del Reglamento, únicamente está pendiente de su publicación oficial. A partir de ese momento se producirá la aplicación escalonada del Reglamento.

Evolución de las Prohibiciones

El artículo 5 del Reglamento, que establece las prohibiciones específicas sobre ciertos usos de la IA, ha sido uno de los puntos más controvertidos durante las negociaciones. La versión inicial propuesta por la Comisión ya incluía prohibiciones sobre prácticas consideradas inaceptables, como el uso de técnicas subliminales, la explotación de vulnerabilidades de grupos específicos, y los sistemas de puntuación social³Artículo 5, Propuesta de Reglamento sobre la Inteligencia Artificial, COM(2021) 206 final..

Sin embargo, durante el proceso de negociación, se evidenció una fuerte presión por parte de diversos grupos de interés, principalmente de Francia, Alemania e Italia, para suavizar algunas de estas prohibiciones. Empresas como Thales Group, A (Francia), Aleph Aleph, Siemens (Alemania) y Leonardo S.p.A. (Italia) abogaron por una regulación más flexible, argumentando la necesidad de mantener la competitividad europea en el desarrollo de tecnologías de IA⁴Aquí: Euronews, EuroEfe, Xataka..

Contenido Final del Artículo 5

El texto final del artículo 5 refleja un compromiso entre las diferentes posiciones, manteniendo prohibiciones estrictas en ciertas áreas mientras permite excepciones limitadas en otras. A continuación, se analizan las principales prohibiciones:

Manipulación del comportamiento

En un guiño a las distopías imaginadas por Philip K. Dick, el Reglamento prohíbe el uso de sistemas de IA que empleen técnicas subliminales o deliberadamente manipuladoras para distorsionar el comportamiento de una persona de manera que pueda causar daño físico o psicológico⁵Artículo 5(1)(a), versión final acordada del Reglamento sobre la Inteligencia Artificial (pendiente de publicación oficial).. Esta prohibición busca proteger la autonomía individual y prevenir la explotación de vulnerabilidades psicológicas. El considerando 16 del Reglamento proporciona contexto adicional, señalando que esta prohibición no debe afectar a las prácticas de investigación y marketing legítimas que no causan daño⁶Considerando 16, versión final acordada del Reglamento sobre la Inteligencia Artificial..

Explotación de vulnerabilidades

Se prohíbe el uso de sistemas de IA que exploten las vulnerabilidades de personas debido a su edad, discapacidad física o mental, o situación socioeconómica⁷Artículo 5(1)(b), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta disposición busca proteger a los grupos más vulnerables de la sociedad de la manipulación y explotación a través de la IA, evitando así escenarios similares a los temidos en ‘Blade Runner’, donde los más vulnerables, replicantes, son explotados sin piedad.

Sistemas de puntuación social

El Reglamento prohíbe los sistemas de IA utilizados por autoridades públicas para evaluar o clasificar la confiabilidad de las personas basándose en su comportamiento social o características personales⁸Artículo 5(1)(c), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición refleja las preocupaciones sobre el potencial de tales sistemas para socavar los derechos fundamentales y la dignidad humana, evitando que se conviertan en una realidad las pesadillas orwellianas de vigilancia y control total en su obra 1984.

Identificación biométrica remota en tiempo real

Una de las áreas más controvertidas ha sido la regulación de los sistemas de identificación biométrica remota en tiempo real en espacios públicos con fines policiales. El texto final prohíbe este uso, pero permite excepciones limitadas y estrictamente reguladas⁹Artículo 5(1)(d) versión final acordada del Reglamento sobre la Inteligencia Artificial.. Estas excepciones incluyen la búsqueda de víctimas de delitos graves, la prevención de amenazas terroristas inminentes, y la localización de sospechosos de delitos específicos¹⁰Artículo 5(2), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Sin embargo, el uso de estos sistemas está sujeto a autorización judicial previa y a estrictas salvaguardias procedimentales, evitando así abusos que podrían recordar a los mecanismos de control total descritos en ‘Minority Report’. Veámoslas con un poco más de detalleAcortar con IA

Excepciones permitidas: El uso de sistemas de identificación biométrica a distancia en tiempo real en espacios públicos con fines policiales está permitido en casos estrictamente necesarios para:

1. 1. Búsqueda de víctimas específicas (secuestros, trata de personas, explotación sexual) o personas desaparecidas.
   2. Prevención de amenazas específicas, sustanciales e inminentes contra la vida o seguridad física de las personas, o amenazas de atentados terroristas.
   3. Detección, localización, identificación o enjuiciamiento de un sospechoso o autor de un delito grave.

Condiciones para las excepciones:

1. 1. Autorización previa: Se requiere una autorización previa de una autoridad judicial o administrativa independiente, salvo en casos de urgencia justificada.
   2. Limitación temporal: El uso debe estar limitado en el tiempo.
   3. Limitación geográfica: El uso debe estar restringido a áreas específicas.
   4. Limitación personal: Debe estar dirigido a personas específicas.
   5. Evaluación de impacto: Se debe realizar una evaluación de impacto sobre los derechos fundamentales.
   6. Registro: El sistema debe ser registrado en la base de datos de la UE.

Proceso de autorización: a) La autoridad competente debe presentar una solicitud motivada. b) La autorización se concede solo si se demuestra que el uso es necesario y proporcionado. c) En casos de urgencia, se puede iniciar el uso sin autorización previa, pero esta debe solicitarse dentro de las 24 horas siguientes.

Supervisión y notificación:

1. 1. El uso debe ser notificado a la autoridad de vigilancia del mercado y a la autoridad nacional de protección de datos.
   2. Las autoridades nacionales deben presentar informes anuales a la Comisión Europea sobre el uso de estos sistemas.
   3. La Comisión Europea publicará informes anuales basados en los datos agregados de los Estados miembros.

Flexibilidad para los Estados miembros: Los Estados miembros pueden decidir autorizar parcial o totalmente el uso de estos sistemas dentro de los límites establecidos, pero también pueden introducir leyes más restrictivas.

Salvaguardias adicionales:

1. 1. No se pueden tomar decisiones con efectos jurídicos adversos basándose únicamente en los resultados de estos sistemas.
   2. El uso debe ajustarse a las salvaguardias y condiciones establecidas en la legislación nacional.

Es importante destacar que estas excepciones se aplican específicamente a los sistemas de identificación biométrica a distancia en tiempo real en espacios públicos con fines policiales.

Otras Prohibiciones y Excepciones

Evaluaciones de riesgo

El Reglamento prohíbe el uso de sistemas de IA para realizar evaluaciones de riesgo de personas físicas con el fin de evaluar o predecir el riesgo de que una persona cometa un delito, basándose únicamente en la elaboración de perfiles de personalidad¹¹Artículo 5(1)(d), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la evaluación humana de la implicación de una persona en una actividad delictiva basada en hechos objetivos.

Bases de datos de reconocimiento facial

Se prohíbe la creación o ampliación de bases de datos de reconocimiento facial mediante el raspado no selectivo de imágenes faciales de Internet o grabaciones de CCTV¹²Artículo 5(1)(e), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición busca evitar el desarrollo de una infraestructura de vigilancia masiva no consentida, tipo «El Círculo» de Dave Eggers, donde una empresa tecnológica usa datos biométricos para espiar a la población.

Inferencia de emociones

El uso de sistemas de IA para inferir emociones de una persona física en los ámbitos del lugar de trabajo y de las instituciones educativas está prohibido, excepto cuando se utilice con fines médicos o de seguridad¹³Artículo 5(1)(f), versión final acordada del Reglamento sobre la Inteligencia Artificial..

Categorización biométrica

Se prohíbe la utilización de sistemas de categorización biométrica para deducir o inferir la raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual de las personas¹⁴Artículo 5(1)(g), versión final acordada del Reglamento sobre la Inteligencia Artificial.. Esta prohibición no cubre el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente en el ámbito de la aplicación de la ley.

Consideraciones sobre la Aplicación

Los considerandos del Reglamento proporcionan orientación crucial para la interpretación y aplicación de estas prohibiciones. Por ejemplo, el considerando 17 enfatiza que las prohibiciones deben interpretarse de manera restrictiva y solo cubrir prácticas que tengan un potencial significativo de daño. Además, el considerando 18 aclara que la prohibición de sistemas de puntuación social no debe impedir el uso legítimo de IA por parte de las autoridades públicas para evaluar la elegibilidad para beneficios sociales o servicios públicos, siempre que se respeten los principios de proporcionalidad y no discriminación.

Conclusiones

El artículo 5 del Reglamento de IA de la UE representa un hito significativo en la regulación global de la inteligencia artificial. Las prohibiciones establecidas reflejan un enfoque basado en el riesgo, buscando proteger los derechos fundamentales sin obstaculizar indebidamente la innovación.

Sin embargo, la influencia de los lobbies industriales en el proceso legislativo plantea preguntas sobre el equilibrio entre los intereses comerciales y la protección de los derechos de los ciudadanos. La implementación efectiva de estas prohibiciones requerirá una vigilancia continua y posiblemente ajustes futuros a medida que evolucione la tecnología de IA.

El desafío para la UE será mantener este equilibrio, asegurando que Europa siga siendo competitiva en el desarrollo de IA mientras establece un estándar global para su uso ético y responsable.

Nota Final: Si eres capaz de liberarte de los prejuicios que te lo pudieran impedir, te recomiendo que veas Demolition Man (Sylvester Stallone), cuyo guion nació de una interpretación libre de “Un mundo feliz” de Aldous Huxley y en “Cuando el dormido despierte” de H. G. Wells. Casi un pleno de aciertos en sus predicciones.

Infografía Reglamento de IA de la Unión Europea; Prohibiciones

 

* Para descargar la imagen, haz clic derecho sobre ella y luego la opción «guardar imagen como…». Si lo deseas, también puedes descargar la versión en pdf.