El Parlamento Europeo expresó su oposición el miércoles a la vigilancia biométrica en tiempo real y estableció condiciones para los nuevos sistemas, como ChatGPT, al aprobar la ley de inteligencia artificial que se está negociando en Bruselas para fomentar su desarrollo, al tiempo que limita los posibles riesgos.
Con 499 votos a favor, 28 en contra y 93 abstenciones, la Eurocámara fijó así su postura de cara a las negociaciones que comenzarán hoy con la Comisión Europea y el Consejo de la UE para llegar a un acuerdo sobre el texto definitivo de la ley, las cuales continuarán bajo la presidencia rotatoria que España asumirá el 1 de julio.
Entre las demandas del Parlamento Europeo se encuentra la prohibición de la vigilancia biométrica en tiempo real en espacios públicos, en contraposición a la postura defendida por la Comisión Europea y los países de la UE, que abogan por permitirla solo si es autorizada por un juez en casos muy específicos.
En medio del debate sobre la necesidad de regular los sistemas capaces de generar texto y contenido audiovisual, el Parlamento desea que los desarrolladores demuestren que han reducido los riesgos que esta tecnología pueda plantear para la salud, los derechos fundamentales y el sistema democrático.
Los eurodiputados también solicitan que los usuarios que utilicen esta tecnología para generar imágenes falsas (deep fakes) indiquen claramente que el contenido ha sido manipulado mediante inteligencia artificial.
Asimismo, piden que los desarrolladores de estos sistemas expliquen de manera suficientemente detallada qué datos protegidos por derechos de autor han utilizado para entrenar la inteligencia artificial.
El Parlamento Europeo se opuso a la utilización de sistemas de identificación biométrica en tiempo real en espacios públicos. No obstante, los eurodiputados abrieron la posibilidad de utilizarlos posteriormente, siempre y cuando se cuente con autorización judicial, para perseguir ‘delitos graves’.
De este modo, la Eurocámara rechazó la enmienda más flexible del Partido Popular Europeo en cuanto a la protección de los derechos fundamentales.
El PPE defendió la posibilidad de utilizar estos sistemas, con permiso de un juez, para buscar a personas desaparecidas (incluidos menores), prevenir atentados terroristas y localizar a aquellos que hayan cometido un delito con una pena mínima de tres años de prisión.
Uno de los ponentes de la ley, el eurodiputado liberal Dragos Tudorache, recordó que ‘conforme a las leyes actuales y con autorización judicial, ya se pueden obtener imágenes de las cámaras de vigilancia en caso de un atentado terrorista en la calle o cuando la policía reciba un aviso de la desaparición de un niño’.
La normativa califica como de alto riesgo a una serie de sistemas de inteligencia artificial con usos muy específicos, los cuales solo podrán introducirse en el mercado si respetan los derechos fundamentales y los valores de la UE.
Por ejemplo, aquellos sistemas que puedan influir en el resultado de unas elecciones, los utilizados por entidades financieras para evaluar la solvencia y establecer la calificación crediticia de una persona o los empleados por la policía de control de fronteras para controlar, vigilar o procesar datos para predecir movimientos migratorios.
Después de una votación que la vicepresidenta de la Comisión Europea para la Era Digital, Margrethe Vestager, calificó de ‘histórica’, al tratarse de una norma pionera en el mundo, comenzarán las negociaciones entre las tres instituciones europeas para llegar a un acuerdo sobre el texto definitivo de la ley.
En caso de que las negociaciones concluyan este año, la normativa no comenzará a aplicarse hasta 2026, aunque se espera poder acortar los plazos. Por este motivo, la Comisión Europea ha propuesto un pacto entre las principales empresas tecnológicas para etiquetar de inmediato todo el contenido falso generado mediante inteligencia artificial.
Ursula Pachl, directora general de la Asociación de Consumidores Europeos (BEUC), afirmó que ‘las prohibiciones propuestas hoy por el Parlamento Europeo en relación al reconocimiento facial en espacios públicos y la categorización especial por parte de las empresas son fundamentales para proteger los derechos fundamentales’.
