Los deepfakes, una tecnología incipiente y de rápida evolución, amenaza los mejores esfuerzos de las empresas más grandes de las redes sociales para reprimir la desinformación durante la temporada política.
Los deepfakes de video y audio son una capa integrante de subterfugios y trucos digitales que podrían complicar las cosas para Facebook, Twitter, Snapchat y otros que están trabajando horas extra para deshacerse de sus vastas plataformas de redes sociales de contenido engañoso y mentiras descaradas antes de las elecciones del 3 de noviembre en Estados Unidos.
La tecnología impulsada por inteligencia artificial que ayuda a generar las imágenes falsas, y el discurso deepfake (un video manipulado de manera engañosa que mostró a la presidenta de la cámara de representantes Nancy Pelosi arrastrando las palabras) podrían magnificar la desinformación en línea.
‘Las repercusiones para candidatos políticos y líderes empresariales es real’, dice Raymond Lee, quien fundó Fakenet AI, una startup que está construyendo una opción de escaneo de redes sociales para detectar estafadores y sitios web de baja credibilidad.
Lee explicó que su compañía ha hablado con TikTok y un servicio de verificación de datos de terceros que trabaja con Facebook sobre el uso de la tecnología tecnología de Fakenet AI.
Las principales empresas y partidos políticos están analizando más de cerca las opciones digitales a medida que los deepfakes aumentan en sofisticación, según Lee.
Hasta hace poco, la mayoría de los deepfakes eran de baja calidad y fáciles de detectar. Pero a medida que las producciones se vuelven más hábiles a través de las herramientas de inteligencia artificial, a los investigadores de seguridad, como Lee, les preocupa que los videos y el audio de reemplazo engañen a más personas.
Los miembros de ambos partidos en el Congreso de EU han expresado su preocupación de que las falsificaciones profundas puedan con conducir a una interferencia política generalizada.
Ya sucedió en la comunidad empresarial. Los estafadores utilizaron software basado en inteligencia artificial para falsificar la voz de un director ejecutivo de una empresa de energía en Alemania y exigir y recibir una transferencia de 243,000 dólares en marzo, según informes de Wall Street Journal y otros. La persona que llamó, dijo que la solicitud era urgente, y ordenó a un ejecutivo de nivel inferior a pagar en una hora, según la firma de seguros de la compañía Euler Hermes Group.
