Por Jorge Lukowski, director global de Marketing y Comunicación de NEORIS. Miembro de Forbes Council, de la Asociación Española de MKT y de REDI LGTBIQ+
Las empresas y los profesionales del sector tecnológico debemos unirnos a este esfuerzo por generar una herramienta que no excluya a nadie y que represente a nuestra comunidad de manera plena.
Los Modelos de Lenguaje de Gran Escala (LLM, por sus siglas en inglés) como ChatGPT, están transformando la forma en la que nos comunicamos y obtenemos información; sin embargo, estos avances tecnológicos enfrentan desafíos significativos en la prevención de sesgos, particularmente de aquellos que afectan al colectivo LGTBIQ+ y otros grupos o diversidades.
En el marco del mes del orgullo, se debe resaltar que, en México, una de cada 20 personas se reconoce como parte de la población LGBTI+, de acuerdo con los datos de la Encuesta Nacional sobre Diversidad Sexual y de Género (ENDISEG).
De acuerdo con dicha encuesta de los cinco millones de mexicanos que se identifican dentro de la comunidad LGBTI+, el 51.7 por ciento se asume como bisexual; el 26.5 por ciento como gay u homosexual; el 10.6 por ciento como lesbiana y el 11.2 por ciento, describió otra orientación sexual.
Las tres entidades federativas que contabilizaron el mayor número de personas que pertenecen a la comunidad LGBTI+ son: Estado de México, con 490 mil; Ciudad de México, con 311 mil y Veracruz, con 308 mil; resaltando además que la población indígena que pertenece a la comunidad LGBTI+ es superior al 11 por ciento.
En este contexto, cabe resaltar que, el estudio The AI Index Report 2024 de la Universidad de Stanford revela que en los datos utilizados para entrenar LLM predominan sesgos de género y raciales. Igualmente, las alertas del último informe de la UNESCO, en marzo de este año, han señalado esta problemática relacionada con estereotipos de género regresivos. Esta realidad, puede llevar a perpetuarlos, y a su vez excluir la gran variedad de voces.
Sin embargo, se debe resaltar que un informe de McKinsey & Company señala que las organizaciones que cuentan con equipos diversos, inclusivos, y equitativos son más efcientes, productivos, innovadores y creativos.
En tal sentido, la preocupación de la comunidad es cómo extender ese compromiso asumido en el mundo real de justicia social y derechos humanos, a la virtualidad y, específicamente, en el desarrollo de tecnologías avanzadas como los LLM para que arrojen resultados que contemplen todas las diversidades para representar a la sociedad de manera plena. Y es que, para lograr este objetivo, es vital considerar varios aspectos clave.
Desde una perspectiva económica, el mercado laboral actual de la informática en general y en el de estos sistemas en particular, no es lo suficientemente amplio para satisfacer todas las necesidades tecnológicas. Fomentar la diversidad, ayuda a cubrir esta brecha al atraer a más personas de distintos orígenes, además de promover la generación de soluciones más ingeniosas y efectivas para abordar los desafíos más críticos de la sociedad.
Por lo tanto, es crucial que los modelos de IA sean auditados y revisados constantemente para identificar y mitigar sesgos, los cuales, generalmente, tienen que ver con la asociación de ciertos roles profesionales o emociones a géneros específicos. Esta predisposición también se puede extrapolar a otros aspectos de identidad, como la orientación sexual y la identidad de género.
Cuando las “alucinaciones” de las IA no son inclusivas en su totalidad
Las «alucinaciones» en los LLM representan un grave problema, ya que estos sistemas generan respuestas que, aunque sintáctica y semánticamente son correctas, están desconectadas de la realidad.
Y es que, actualmente se está prestando especial atención a estas alucinaciones, dado que es muy fácil crear contenido falso con fines políticos y maliciosos como, por ejemplo, noticias falsas acerca de situaciones que no son reales o fotografías modificadas para tergiversar la historia por lo que existe una preocupación creciente de que el futuro de Internet pueda estar saturado de información carente de veracidad.
En los últimos 15 años, aproximadamente 300 empresas en México han adoptado programas y acciones orientadas a la inclusión laboral de la población LGBTI+. En este sentido, el esfuerzo de las empresas tecnológicas por promover la igualdad en sus productos es esencial para encontrar un equilibrio entre ser precisos e inclusivos. Las organizaciones deben ser cuidadosas al programar modelos de IA para tener en cuenta ambas variables sin cometer imprecisiones y sesgos. Para garantizar una tecnología inclusiva, es esencial implementar acciones concretas, como el uso de diferentes fuentes en el entrenamiento de los LLM, para asegurar una representación justa de todas las identidades.
La falta de una representación diversa en los datos de entrenamiento podría perpetuar las desigualdades actuales, dejando de reflejar fielmente la composición real de la sociedad. Necesitamos asegurarnos de que la tecnología que construimos sea equitativa, de modo que sirva a todos y no excluya a nadie.
Otra medida crucial es la formación de los desarrolladores en estas prácticas, para lo que existen herramientas y recursos disponibles para las empresas y sus profesionales a detectar prejuicios en sus modelos de lenguaje.
Es importante reafirmar nuestro compromiso con la diversidad, equidad e inclusión, no solo en nuestros espacios físicos, sino también en el mundo digital. Juntos, podemos construir una tecnología que no solo refeje nuestra diversidad, sino que también la celebre y empodere.
Las empresas y profesionales del sector tecnológico debemos unirnos a este esfuerzo por una IA más inclusiva. Al avanzar en esta dirección, construimos un mundo digital más justo y equitativo para todos. La tecnología inclusiva es fundamental para reflejar y respetar la diversidad humana en todas sus formas.
