Google anunció actualizaciones para mejorar la seguridad en línea, enfocándose en la eliminación de deepfakes – imágenes o videos manipulados mediante IA que insertan la cara de una persona en un cuerpo diferente o alteran lo que se dice.
La compañía está implementando medidas para reducir la aparición de estos contenidos en los primeros lugares de los resultados de búsqueda.
Los usuarios podrán solicitar la eliminación de deepfakes explícitos, y Google filtrará los resultados de búsquedas similares para eliminar imágenes duplicadas.
Emma Higham, gerente de producto, destacó que el incremento de contenidos generados por IA en contextos sexualmente explícitos, sin el consentimiento de las personas involucradas, ha sido preocupante.
Higham añadió que estas nuevas funciones fueron desarrolladas con la colaboración de expertos y víctimas para proporcionar mayor tranquilidad a quienes temen la aparición de contenido falso sobre ellos.
Además, las páginas web que acumulen un número significativo de eliminaciones de imágenes explícitas falsas verán degradada su clasificación en los resultados de búsqueda de Google.
La diferenciación entre contenido explícito real y consensuado y contenido falso generado por IA representa un desafío técnico, pero Google continúa trabajando para mejorar la precisión en la presentación de contenido legítimo y en la reducción de contenido falso explícito.
