OpenAI está desarrollando herramientas para su software de inteligencia artificial, abordando las crecientes preocupaciones sobre los riesgos asociados con las imágenes deepfake y otros contenidos generados por IA que podrían desorientar a los votantes durante las campañas electorales.
Las nuevas herramientas proporcionarán información actualizada sobre eventos, utilizando el chatbot ChatGPT de la compañía para ayudar a los usuarios a determinar si una imagen fue generada por su software de inteligencia artificial.
‘Proteger la integridad de las elecciones requiere la colaboración de todos los rincones del proceso democrático, y queremos asegurarnos de que nuestra tecnología no se utilice de manera que pueda socavar ese proceso’, dijo la compañía.
Como parte de estas iniciativas, OpenAI comenzará a codificar imágenes generadas por su herramienta Dall-E 3, proporcionando información de procedencia que incluye detalles sobre quién produjo la imagen y cuándo se creó. Esto ayudará a los votantes a comprender si las imágenes que ven en la web fueron creadas mediante inteligencia artificial.
Además, la empresa lanzará una herramienta de detección de imágenes que permitirá a las personas verificar si Dall-E generó una imagen específica. Esta herramienta se implementará inicialmente entre periodistas, plataformas e investigadores para recopilar comentarios antes de su lanzamiento general.
La Directora de Tecnología de OpenAI, Miria Murati, mencionó en octubre que la herramienta de detección de imágenes tenía una precisión del 99% en las pruebas internas.
En el caso de ChatGPT, OpenAI permitirá a las personas obtener información en tiempo real sobre eventos actuales mediante el chatbot. Los resultados proporcionarán atribuciones y enlaces a artículos, características que actualmente no se muestran por defecto en la aplicación.
La compañía destacó que se está integrando cada vez más con fuentes de información existentes.
La transparencia en torno al origen de la información, al igual que con las imágenes, puede ayudar a los votantes a evaluar mejor la información y tomar decisiones informadas, según expresó la compañía en su publicación.
