Grok, una herramienta de inteligencia artificial recientemente disponible para el público en la red social X, ha generado una ola de imágenes hiperrealistas con contenido racista y xenófobo.
Expertos consultados por EFE Verifica advierten que la falta de filtros éticos en esta herramienta contribuirá al crecimiento de la desinformación y los mensajes de odio en plataformas digitales.
El 12 de diciembre, X lanzó una versión gratuita de Grok, previamente solo accesible mediante suscripción. Esta herramienta promete ofrecer respuestas ‘sin filtros’ y posee un generador de imágenes altamente realista que se puede compartir directamente en X.
En los últimos días, se ha observado la circulación de cientos de imágenes que muestran a figuras públicas en situaciones controvertidas, algunas de las cuales han superado los tres millones de visualizaciones.
Entre ellas se encuentran imágenes que promueven discursos de odio, como aquellas en las que aparece el futbolista Lamine Yamal en contextos xenófobos, como robando a una anciana o viajando en una patera. También han circulado imágenes de figuras históricas como Francisco Franco y Adolf Hitler junto a personalidades actuales en situaciones polémicas.
Un fenómeno similar ocurrió en agosto, cuando la actualización de Grok provocó una avalancha de imágenes falsas, incluida una que supuestamente mostraba a Donald Trump acariciando el vientre de Kamala Harris.
A pesar de que las políticas de uso de la plataforma indican que Grok se debe utilizar respetando la ley y la seguridad de las personas, en realidad no cuenta con filtros de moderación que impidan la creación de contenido discriminatorio, algo presente en otras herramientas como OpenAI y Google Gemini. Por el contrario, Grok se describe en su página como un ‘asistente de IA con un toque de humor y una pizca de rebelión’.
Elon Musk, propietario de X, ha respondido a las críticas defendiendo la libertad de expresión y argumentando que la moderación de contenidos es un ‘cinturón de castidad digital’, asegurando que las plataformas que la implementan son ‘tiránicas’ al intentar controlar lo que se dice.
Sin embargo, Víctor García Perdomo, director del Doctorado en Comunicación de la Universidad de La Sabana en Colombia, considera que defender la libertad de expresión mientras se difunde desinformación y se usa la tecnología con fines políticos es contradictorio. García Perdomo también señala que Grok ha irrumpido sin la reflexión ética necesaria, contraviniendo los esfuerzos para evitar que la inteligencia artificial se descontrole.
La versión gratuita de Grok permite realizar hasta diez consultas en dos horas, lo que permite generar hasta 120 imágenes en un día. Según Catalina Restrepo, investigadora en inteligencia artificial de la Universidad Externado de Colombia, la falta de filtros éticos en Grok facilita la propagación de desinformación, fortalece prejuicios, ataca a las minorías y crea narrativas visuales que deslegitiman movimientos sociales y amplifican los discursos de odio.
Un estudio del Centro para Contrarrestar el Odio Digital (CCDH) reveló que la herramienta generó imágenes de odio en 16 de 20 pruebas realizadas, incluidas algunas que podrían ser utilizadas para promover la negación del Holocausto. EFE Verifica también probó comandos utilizados en las pruebas del CCDH y comprobó que la plataforma sigue generando este tipo de imágenes sin restricciones.
La misma investigación también advirtió que Grok no cuenta con barreras efectivas para evitar la creación de imágenes engañosas que podrían contribuir a difundir afirmaciones falsas sobre candidatos o fraude electoral.
El ‘Reporte de Medios Digitales 2024’ del Instituto Reuters señala un aumento en la circulación de deepfakes creados por inteligencia artificial, incluyendo audios falsos y manipulaciones visuales relacionadas con la guerra en Medio Oriente. El informe también refleja preocupaciones sobre la creciente dificultad para detectar desinformación, especialmente en temas políticos y electorales, y destaca el riesgo de discriminación hacia grupos minoritarios.
Por su parte, la Comisión Europea está investigando a X por no combatir adecuadamente la propagación de contenido ilegal y por la falta de transparencia de sus algoritmos, en relación con la normativa europea.
