Inicio Tecnología. Europa quiere garantizar que la IA sea transparente y con supervisión humana

Europa quiere garantizar que la IA sea transparente y con supervisión humana

La Unión Europea busca garantizar que la tecnología desplegada en ese continente sea transparente y tenga supervisión humana, particularmente en casos de alto riesgo

Inteligencia artificial
Inteligencia artificial

Ante las preocupaciones que la inteligencia artificial (IA) ha provocado sobre la privacidad, la precisión, la seguridad y la equidad, la Unión Europea (UE) quiere iniciar un debate.

‘En situaciones en las que el uso de IA podría presentar riesgos para la seguridad de las personas o su situación legal o laboral, como las que involucran coches autónomos o identificación biométrica, la UE podría incluir la implementación de controles de conformidad por parte de las autoridades públicas’, dijo Margrethe Vestager, Vicepresidenta Ejecutiva de a Asuntos Digitales de la Comisión Europea.

Vestager está tratando de tranquilizar a los ansiosos europeos de que puede manejar las preocupaciones de que Europa se está volviendo irrelevante, mientras que las empresas asiáticas y estadounidenses dominan los mercados de alta tecnología.

La inteligencia artificial ha comenzado a penetrar en todos los sectores de la sociedad, desde sugerencias de compra y asistentes de voz hasta decisiones sobre contratación, seguros y aplicación de la ley, lo cual ha provocado preocupaciones sobre la privacidad, la precisión, la seguridad y la equidad.

La UE quiere garantizar que la tecnología desplegada en Europa sea transparente y tenga supervisión humana, particularmente en casos de alto riesgo.

Según un borrador reciente del documento de la UE, las empresas podrán tener que reentrenar sus sistemas con conjuntos de datos europeos si no pueden garantizar que el reconocimiento facial u otra tecnología de riesgo se haya desarrollado de acuerdo con los valores europeos.

El reconocimiento facial ha provocado un intenso debate en Estados Unidos y Europa, a medida que los departamentos de policía han comenzado a probar la tecnología.

En Estados Unidos, los informes de que la policía estaba utilizando tecnología de Clearview AI, una startup que eliminó miles de millones de fotos de cuentas de redes sociales con el objetivo de ayudar a las autoridades a encontrar el sospechosos sin antecedentes penales, causó una reacción violenta en los grupos de privacidad y los legisladores.

La UE comenzará una consulta de dos semanas, invitando al público a enviar comentarios a sus planes antes de que la comisión proponga formalmente legislación tan pronto como a fin de año.

Los planes de la UE ya han atraído a altos ejecutivos de Silicon Valley a Bruselas, incluido Sundar Pichai de Alphabet, para expresar sus puntos de vista sobre cómo se debe regular la IA.

Vestager y otros funcionarios de la UE se reunirán el lunes con el presidente ejecutivo de Facebook, MarcZuckerberg, quien culminará un viaje a Europa con una visita a Bruselas para discutir las nuevas regulaciones para Internet.

Las empresas tecnológicas han visto que cuando la UE establece leyes radicales sobre tecnología, como el reglamento general de protección de datos, el impacto puede extenderse mucho más allá de sus fronteras.