Google ha sido el principal generador de tráfico hacia sitios web falsificados, según un informe de Bloomberg de 2023.
Aunque el buscador ofrece un formulario que permite a las víctimas solicitar la eliminación de contenido, muchos se quejan de que el proceso se asemeja a un juego de golpear al topo.
El año pasado, un portavoz de Google declaró que Alphabet diseña sus sistemas de clasificación de búsqueda para evitar sorprender a las personas con contenido inesperado, dañino o explícito que no deseen ver.
En diciembre, el sitio recibió 12.3 millones de visitas, según datos de Similarweb.
Henry Adjer, investigador y experto en inteligencia artificial, afirmó que ‘la facilidad para crear contenido es inquietante y afecta a mujeres y niñas, independientemente de su ubicación geográfica o estatus social’.
Los usuarios del popular creador de imágenes con IA, Midjourney, están aprovechando imágenes falsas para generar indicaciones escritas que pueden usarse para diseñar imágenes más explícitas con IA.
Midjourney tiene una función que permite a las personas cargar una imagen existente en su canal de chat Discord, donde ingresan indicaciones para indicarle a la tecnología qué crear y generar texto que se puede usar para diseñar otra imagen similar a través de Midjourney u otro servicio similar.
El resultado de esa función está en un canal público para que lo vea cualquiera de los más de 18 millones de miembros del servidor Discord de Midjourney, proporcionándoles el equivalente a consejos y trucos para ajustar las imágenes pornográficas generadas por IA.
El viernes de la semana pasada, había casi 2 millones de personas activas en el servidor.
Sin leyes explícitas
Actualmente, no existe ninguna ley federal en Estados Unidos que prohíba los deepfakes.
Algunos estados de la Unión Americana han implementado leyes sobre la pornografía deepfake, pero su aplicación es inconsistente en todo el país, lo que dificulta que las víctimas exijan responsabilidades a los creadores.
Jean-Pierre, secretario de prensa de la Casa Blanca, dijo que la administración está trabajando con empresas de inteligencia artificial en esfuerzos unilaterales que pondrían marcas de agua en las imágenes generadas para que sea más fácil identificarlas como falsas.
Joe Biden también nombró un grupo de trabajo para abordar el acoso y el abuso en línea, mientras que el Departamento de Justicia de Estados Unidos creó una línea directa para las víctimas de abuso sexual basado en imágenes.
El Congreso ha comenzado a discutir medidas legislativas para proteger las voces de celebridades y artistas del uso de la IA en algunos casos. En esas conversaciones no existe ninguna protección para los ciudadanos privados.
‘En ausencia de una legislación federal, tener un demandante que tenga la capacidad y la voluntad de perseguir esto, utilizando los medios disponibles para presentar un argumento, incluso si la probabilidad de éxito es baja o de largo plazo es el siguiente paso’, dijo Sam Gregory, director ejecutivo de Witness, una organización sin fines de lucro que utiliza tecnología ética para resaltar los abusos de los derechos humanos.
