La Unesco presentó su primer borrador de recomendación sobre la ética de la inteligencia artificial, después de seis meses de trabajo de un grupo de expertos y una consulta pública en la que más de 600 participantes aportaron más de 50,000 comentarios.
El organismo presenta este documento, que equipara con la Declaración Universal de los Derechos Humanos, como una primera base para llenar el ‘vacío legislativo’ que prevalece en la industria y que ‘debe ser llenado cuanto antes’, según explica el equipo de inteligencia artificial de la Unesco.
En estos diálogos han participado, entre otros, Google, Facebook, Microsoft, las universidades de Stanford en Nueva York y la academia china de ciencia y tecnología. El objetivo final de la recomendación es sentar las bases de unos sistemas de inteligencia artificial que trabajen por el bien de la humanidad, los individuos, la sociedades, el entorno y ecosistemas, así como prevenir daños.
‘Nuestros ojos están abiertos para que la inteligencia artificial trabaje a favor y no en contra de la humanidad’, aseguró Audrey Auzolay, directora general de la Unesco, en el acto de presentación del texto.
Corresponde ahora a los países presentar sus comentarios y observaciones sobre el texto, que seguirá revisándose hasta su adopción por los estados miembros durante la 41 sesión de la Conferencia General de la Unesco en noviembre de 2021.
El organismo confía en que su carácter global le permita asegurar que ninguna perspectiva cultural, profesional o ética se omita y que la recomendación construya los cimientos que permitan edificar un fuerte respeto por la ley en el mundo digital.
Esta tarea cobra especial importancia en el contexto de la pandemia ‘con la aceleración del desarrollo de tecnologías de inteligencia artificial para contenerla’, señaló Gabriela Ramos, subdirectora general de ciencias sociales y humanas. ‘Un marco ético es esencial si van a seguir trabajando en beneficio de los ciudadanos’.
Entre las preocupaciones que han conducido a la Unesco a impulsar este proyecto, figura el potencial de la inteligencia artificial para exacerbar las desigualdades globales.
Al día de hoy, solo 200 firmas producen el 77% de las nuevas patentes e innovaciones relacionadas con el mundo digital. De las 15 principales, 11 están en Estados Unidos y el resto está en China. La postura de la entidad es que estas tecnologías emergentes deben desarrollarse de forma más inclusiva y compartida.
‘Los estados miembros deben diseñar mecanismos que prevengan la monopolización de sistemas de inteligencia artificial’, establece el borrador.
Según recoge el propio documento, su punto de mira está en los sistemas tecnológicos que tiene la capacidad de procesar información de un modo que se asemeje al comportamiento inteligente, que típicamente incluye aspectos de razonamiento, aprendizaje, percepción, predicción y planteamiento o control.
Igualdad y medio ambiente
En este sentido, el borrador propone a los estados miembros, el desarrollo de políticas centradas, entre otros aspectos, en la evaluación de potenciales impactos éticos de estos sistemas, el establecimiento de marcos legales que permitan establecer responsabilidades por su contenido y resultados, el uso de datos de calidad que no arriesguen la privacidad de los individuos, la colaboración internacional, la garantía de que estas tecnologías no van a contribuir a ampliar las brechas existentes en el mundo analógico ni incorporarlas en sus sistemas de decisión y la conservación del medio ambiente, a través del control del consumo energético de estos métodos.
‘Solo 14 de los 84 documentos identificados que proponen principios para el desarrollo y aplicación toman en cuenta preocupaciones medioambientales’, señala el equipo de la entidad. En este sentido, subraya que la computación requerida para la investigación en deep learning se ha multiplicado por 300,000 entre 2012 y 2018. No en vano, el entrenamiento de un gran modelo de IA puede producir más de 270 toneladas de emisiones de CO2, cinco veces la cantidad que produce un coche medio durante su vida útil.
El documento también toma en cuenta el potencial de la inteligencia artificial en la preservación y el enriquecimiento cultural y señala la necesidad de que los estados miembros examinen el posible impacto cultural de estos sistemas, especialmente en el caso de las aplicaciones de procesamiento del lenguaje natural. En este análisis deben considerarse también las implicaciones negativas que pueden conducir a la desaparición de idiomas en peligro de extinción, dialectos locales y variaciones culturales asociadas al lenguaje y la expresión humanos.
En la misma línea, el borrador establece la necesidad de que los países procuren que las grandes tecnológicas aseguren que ‘las recomendaciones algorítmicas potencien la visibilidad y el descubrimiento de contenidos locales’.
En cuanto a las crecientes relaciones entre humanos y sistemas robótícos basados en inteligencia artificial, la recomendación de la Unesco subraya la necesidad de desarrollar guías sobre esas interacciones y su impacto en las relaciones entre humanos. En especial, en lo relativo a la atención sanitaria y el cuidado de personas mayores y con discapacidades, así como en lo que respecta a robots educativos, juguetes, chatbots y compañeros robóticos para niños y adultos.
Asimismo, la entidad recomienda a los países proteger el derecho de los usuarios a identificar con facilidad cuando están interactuando con un ser vivo o cuando un sistema de inteligencia artificial que imita características humanas o animales.
