Tanto el popular youtuber MrBeast, cuyo nombre real es Jimmy Donaldson y cuenta con casi 200 millones de seguidores, como el actor ganador de dos premios Óscar, Tom Hanks, han sido víctimas de estafas difundidas en las redes sociales este mes.
Estas estafas se valen de una tecnología de inteligencia artificial generativa conocida como deepfake.
Los deepfakes permiten manipular la apariencia de una persona para que actúe y diga lo que el creador desee.
Durante el último año, esta tecnología ha ganado en popularidad y sofisticación, dificultando cada vez más la detección de estas manipulaciones audiovisuales.
Un iPhone a 2 dólares
En el caso de Donaldson, un youtuber de 25 años famoso por regalar casas, automóviles y dinero a sus seguidores, y muy popular entre los jóvenes, la estafa utilizó deepfake para crear un video en el que Donaldson afirmaba que regalaba el último modelo de iPhone por 2 dólares.
‘Si estás viendo este video, eres una de las 10,000 personas afortunadas que recibirán un iPhone 15 Pro por solo 2 dólares. Soy MrBeast y voy a llevar a cabo el sorteo del iPhone 15 más grande del mundo. Haz clic en el enlace a continuación para reclamar el tuyo ahora’, decía el deepfake de Donaldson en TikTok, en un video que ya fue retirado de la plataforma.
Sin embargo, la letra pequeña de ese enlace indicaba que se trataba de un programa de inscripción automática mensual, con un cargo inicial de 6.95 dólares (que podría confundirse con un costo de envío) y un pago mensual indefinido de 139.67 dólares.
Famosos alertan a sus seguidores
‘Mucha gente está recibiendo este anuncio fraudulento mío de deepfake… ¿Están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA? Este es un problema grave’, escribió Donaldson en su cuenta de X (anteriormente Twitter).
Según Satnam Narang, ingeniero principal de investigación de Tenable y conocido como el ‘detective de estafas en redes sociales’, el video falso de Donaldson podría pasar como creíble si no se presta atención, pero no es perfecto.
‘Si observas su labio superior y su falta de movimiento, notarás que no es natural’, señaló el experto.
Tom Hanks también advirtió a sus seguidores en Instagram que él ‘no tenía nada que ver’ con un video generado por IA en el que promociona un supuesto plan dental.
El protagonista de ‘Forrest Gump’ ha expresado en varias ocasiones su preocupación por el uso de la IA en el cine y la televisión.
No obstante, ha utilizado esta tecnología en películas como ‘The Polar Express’, una cinta animada que en 2004 empleó imágenes generadas por computadora (CGI) para crear su personaje, así como en su trabajo más reciente, ‘A Man Called Otto’, donde se rejuveneció en algunas escenas.
Narang asegura que muchos famosos han sido víctimas de esta manipulación este año, como el caso de Elon Musk, una de las personas más ricas del mundo, en un video que promocionaba criptomonedas.
Un desafío para las redes
La mayoría de las redes sociales establecen en sus reglamentos que el contenido sintético o manipulado debe etiquetarse como tal, pero no siempre pueden detectar y eliminar las publicaciones que infringen estas normas.
Lo más complicado de esta situación es que no existen máquinas capaces de determinar de inmediato si un contenido (ya sea un texto, una foto o un video) ha sido generado por IA.
Esto es peligroso no solo por las posibles estafas, sino también por sus efectos en la desinformación en general, especialmente en situaciones de conflictos bélicos o elecciones.
Según Narang, la mejor práctica es que los usuarios de las redes siempre sean escépticos, investiguen el perfil que publica la información, incluso si tiene una cuenta verificada, y siempre lean la letra pequeña.
