Principales claves de la Ley sobre Inteligencia Artificial de la Unión Europa

Todos aquellos operadores que quieran poner en el mercado de la UE sistemas o modelos basados en IA tendrán que hacerlo respetando la nueva Ley sobre Inteligencia Artificial. Grupo Atico34, una de las mejores empresas de protección de datos en España, nos cuenta más sobre esta normativa.

El Parlamento Europeo aprobó en marzo de 2024 la Ley de Inteligencia Artificial, una normativa que llega con el objetivo de “proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector”.

El Reglamento, a fecha de mayo de 2024, ya se encuentra en las últimas etapas para su aprobación definitiva y en estos momentos está siendo sometido a las últimas correcciones jurídicas y lingüísticas. 

Objeto y ámbito de aplicación de la normativa sobre IA

Según el texto aprobado por el Parlamento Europeo, el objetivo del reglamento es “mejorar el funcionamiento del mercado interior y promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales”.

En este sentido, están obligados a cumplir la Ley sobre Inteligencia Artificial todos aquellos proveedores o responsables del despliegue de modelos o sistemas basados en IA que estén ubicados o establecidos en la UE, así como aquellos que aunque no estén ubicados en la UE utilicen la información generada por la IA en el marco de la Unión.

Puntos principales a tener en cuenta de la Ley sobre Inteligencia Artificial de la UE

La normativa pretende establecer una serie de normas armonizadas, requisitos y, sobre todo, prohibiciones, para el uso de la inteligencia artificial.

Pero, ¿qué dice exactamente esta normativa? ¿Cuáles son los cambios que propone? ¿De qué manera afecta al uso de sistemas, modelos, aplicaciones o herramientas basadas en la Inteligencia artificial? Miguel Quintanilla, responsable del servicio de protección de datos de la consultora española Grupo Atico34, nos lo cuenta.

Transparencia en modelos y sistemas de IA

Uno de los grandes objetivos de la Ley de Inteligencia Artificial es aumentar la transparencia en el uso de modelos o sistemas de IA. Entre otros requisitos, se incluye el de respetar la legislación europea sobre derechos de autor o el de publicar resúmenes de los contenidos empleados para usar los modelos de IA.

Identificación de los contenidos denominados ultrafalsificaciones

El uso de imágenes, vídeos o audios creados con Inteligencia Artificial cada vez son más difíciles de detectar, de ahí el sobrenombre de ultrafalsificaciones. Con la entrada en vigor de la Ley de sobre el uso de Inteligencia Artificial, todos estos contenidos manipulados o generados mediante IA han de ser debidamente etiquetados o identificados.

Prohibición de los sistemas de categorización biométrica

Queda prohibido el uso de sistemas de identificación o categorización biométrica por considerarse que son excesivos y no proporcionales para los fines perseguidos.

Por ejemplo, ya no está permitido el uso de sistemas de reconocimiento facial, ocular o por huella dactilar para el registro de la jornada de trabajadores, o como sistema de verificación de edad en el acceso a contenidos para adultos en internet.

El uso de la IA y los dispositivos biométricos también queda prohibido para la identificación de perfiles o la generación de bases de datos.

Prohibición del uso de la IA como vehículo para manipular la conducta humana

En efecto, otra de las prohibiciones tienen que ver con el uso de contenidos generados por Inteligencia Artificial como una vía para engañar y manipular a los individuos o para explotar sus vulnerabilidades, ya sean con fines personales, sociales, políticos, de mercadotecnia o de cualquier otro tipo.

Nuevas obligaciones para los sistemas de alto riesgo

Los sistemas considerados de alto riesgo deben implementar las medidas técnicas y organizativas necesarias para garantizar la seguridad e integridad de los datos. Para ello, deberán evaluar y proponer sistemas de reducción de riesgos, mantener registros de uso actualizados o contar con supervisión humana continua.

Entre los afectados por este requisito están todas aquellas infraestructuras críticas y sectores como la educación, los servicios públicos o privados esenciales, los Cuerpos y Fuerzas de Seguridad del Estado o los partidos políticos, entre muchos otros.

Derechos de los ciudadanos a reclamar sobre el uso de la Inteligencia artificial

Además de las obligaciones para los proveedores o responsables de los sistemas de Inteligencia Artificial, la normativa también establece nuevos derechos para los usuarios, por ejemplo el derecho a ejercer los derechos de acceso, rectificación o supresión de la información generada por IA o de presentar las reclamaciones que presenten convenientes en caso de que sus derechos se vean afectados por el uso de la IA.

¿Qué opinas de lo que nos cuentan los expertos de Grupo Atico34? ¿Consideras que normativas como estas son necesarias para regular el uso de la Inteligencia Artificial o crees que no es más que otro movimiento de los Gobiernos para limitar y controlar el uso de las nuevas tecnologías?

Para saberlo todo sobre la mejor IA para diseño gráfico, lea nuestro artículo dedicado a Midjourney.