Expertos del Comité Internacional de la Cruz Roja (CICR) señalaron que el uso de la inteligencia artificial (IA) en la toma de decisiones militares conlleva ciertos peligros.
A pesar de que las IA podrían contribuir a tomar decisiones militares más efectivas que minimicen los riesgos para los civiles en conflictos armados, existe la preocupación de que estas tecnologías sean vulnerables a la manipulación y puedan tener consecuencias devastadoras.
Ruben Stewart, asesor militar del CICR, y Georgia Hinds, asesora jurídica, destacaron los riesgos asociados con las herramientas de software que incorporan inteligencia artificial y su impacto en la población civil afectada por un conflicto.
Aunque los sistemas de soporte de decisiones con inteligencia artificial (IA-DSS) podrían mejorar la protección de los civiles en ciertas circunstancias, los expertos insisten en la necesidad de contar con verificaciones humanas a partir de múltiples fuentes.
Una de las ventajas potenciales de las IA-DSS es su capacidad para recopilar y analizar datos de internet relacionados con la presencia de civiles y objetivos no militares en áreas de conflicto. Esto podría ayudar a los comandantes militares a considerar estos datos al tomar decisiones sobre operaciones militares.
Sin embargo, subrayan la importancia de verificar cuidadosamente los datos recopilados para evitar lo que se conoce como ‘sesgo de automatización’, que se refiere a la tendencia de los humanos a no cuestionar críticamente la precisión de los análisis realizados por la IA, lo que podría llevar a evaluaciones incorrectas con consecuencias mortales.
El informe señala que el margen de error de las IA-DSS tiende a aumentar en situaciones en las que el tiempo es un factor crítico.
El uso de inteligencia artificial para acelerar la toma de decisiones militares puede incrementar los riesgos para los civiles al simplificar en exceso la selección de objetivos de ataque. Por lo tanto, se destaca la importancia de aplicar la ‘paciencia táctica’ para reducir las posibles bajas civiles y ganar tiempo para evaluar todas las opciones disponibles y seleccionar la más adecuada en cada caso.
Los expertos enfatizan que, si bien las IA-DSS pueden ser valiosas como herramientas informativas, nunca deben reemplazar el juicio humano en las decisiones que afectan la vida y la dignidad de las personas en conflictos armados.
