El secretario general de la ONU, António Guterres, presentó hoy una propuesta para establecer un pacto mundial que aborde el desarrollo de la inteligencia artificial (IA) y otras tecnologías digitales.
La ONU advierte sobre las posibles amenazas que pueden surgir de estos avances y la necesidad de gestionarlos de manera efectiva.
En un documento de aproximadamente 30 páginas, Guterres detalla sus ideas sobre cómo regular y controlar el avance de la IA. La intención es que gobiernos, el sector privado y la sociedad civil adopten este acuerdo durante la Cumbre del Futuro en septiembre de 2024.
El Pacto Digital Mundial propuesto por Guterres abarca diversos aspectos, pero destaca especialmente la regulación de la inteligencia artificial debido a sus rápidos avances en los últimos meses. El objetivo es abordar tanto los aspectos positivos como los negativos de esta tecnología y colaborar en la identificación y mitigación de riesgos.
Guterres enfatiza la necesidad de asegurar que el diseño y uso de la IA sean transparentes, seguros y estén sujetos al control de los seres humanos. Propone combinar guías y normas internacionales, marcos regulatorios nacionales y estándares técnicos para lograr una gestión ágil de estas tecnologías emergentes.
Las medidas propuestas por Guterres buscan fomentar la cooperación entre las autoridades y la industria, evitando en gran medida la imposición de leyes y regulaciones. Algunas de las acciones planteadas incluyen la colaboración con empresas para garantizar la seguridad de los sistemas de IA y su alineación con los valores humanos, así como la creación de un grupo asesor de expertos para abordar estas cuestiones de manera regular.
Además, se insta a los gobiernos a establecer directrices que orienten el desarrollo de la inteligencia artificial y a comprometerse a fortalecer la transparencia, incluyendo equipos de derechos humanos y ética en este proceso. Guterres también sugiere considerar prohibiciones en el uso de aplicaciones tecnológicas cuyo potencial o impacto no esté justificado según el derecho internacional de los derechos humanos, aunque no especifica cuáles.
Desde hace tiempo, el secretario general ha expresado preocupación sobre el riesgo que representan las armas autónomas, sistemas militares controlados por inteligencia artificial que pueden tomar decisiones propias en el lanzamiento de ataques.
