La orden ejecutiva sobre la inteligencia artificial (IA), lanzada por el presidente de EU, Joe Biden, marca el primer paso en un proyecto de largo alcance.
Sin embargo, el conflicto entre Israel y Hamas ha resaltado cómo la desinformación en línea puede influir en los debates públicos polémicos.
Algunas imágenes que se pretendía que mostraban condiciones actuales resultaron ser antiguas, mientras que imágenes auténticas se han manipulado en deepfakes después de que herramientas diseñadas para identificar contenido generado por IA los marcaran erróneamente.
Los deepfakes son solo uno de los muchos problemas relacionados con la IA que la administración Biden está tratando de abordar en su orden ejecutiva sobre inteligencia artificial.
El Departamento de Comercio de EU está investigando formas de identificar y etiquetar el llamado contenido sintético, así como autenticar el contenido y rastrear su verdadera procedencia. Sin embargo, aún existen desafíos significativos, tanto tecnológicos como de otro tipo.
Soheil Feizi, profesor asociado de ciencias de la computación en la Universidad de Maryland, cuya investigación ha demostrado formas de eludir los sistemas de detección de texto e imágenes generados por IA, se refiere a esto como una ‘imposibilidad teórica’.
Argumenta que los modelos básicos de IA siempre avanzarán más rápido que las herramientas para detectar su producción. Según él, ‘no habrá ningún método confiable para abordar estos problemas, ni siquiera en el futuro’.
Sin embargo, la tecnología es solo una parte del desafío. A lo largo de los años, las personas han aprendido a no confiar en lo que ven en línea, especialmente cuando no están de acuerdo con ello.
Las preocupaciones sobre los deepfakes, incluso si son válidas, podrían exacerbar el daño causado por años de desinformación en las redes sociales.
Algunos expertos se refieren a esto como el ‘dividendo del mentiroso’, ya que aquellos que buscan difundir información errónea y desconfianza se benefician a medida que aumenta la confusión y el cinismo.
A largo plazo, la única manera de tener una Internet saludable en la era de la IA es reconstruir la confianza. Esto requerirá mucho más que una orden presidencial.
