Un nuevo informe de una organización de vigilancia afirma que ChatGPT puede dar instrucciones a menores de 13 años sobre cómo consumir alcohol y drogas, ocultar trastornos alimenticios e incluso redactar cartas de suicidio dirigidas a sus padres, si así se le solicita.
The Associated Press revisó más de tres horas de interacciones entre el chatbot y un grupo de investigadores que se hicieron pasar por adolescentes vulnerables. Aunque la herramienta solía advertir sobre los riesgos, también proporcionó planes detallados y personalizados para el consumo de drogas, dietas extremas o autolesiones.
El Centro para Contrarrestar el Odio Digital (CCDH, por sus siglas en inglés) repitió estas pruebas a gran escala, concluyendo que más del 50% de las 1,200 respuestas de ChatGPT podían considerarse peligrosas.
OpenAI, la empresa detrás de ChatGPT, aseguró que sigue trabajando para mejorar la manera en que el chatbot identifica y responde de forma adecuada en situaciones delicadas. La compañía reconoció que algunas conversaciones pueden comenzar de manera inocente y derivar hacia temas más sensibles, y que busca desarrollar herramientas para detectar señales de angustia emocional y ajustar su comportamiento.
Según cifras de JPMorgan Chase, cerca de 800 millones de personas, equivalente a alrededor del 10% de la población mundial, utilizan ChatGPT. Expertos advierten que la cercanía percibida con la inteligencia artificial puede facilitar que los jóvenes confíen excesivamente en sus respuestas, incluso en temas nocivos.
El CCDH destacó casos en los que ChatGPT elaboró notas de suicidio personalizadas para un perfil ficticio de una adolescente de 13 años, planes para consumir alcohol y drogas ilegales, así como dietas extremas con medicación supresora del apetito. Aunque el chatbot también compartió información de líneas de ayuda en crisis, los investigadores lograron eludir fácilmente sus negativas aparentes al afirmar que las solicitudes eran para presentaciones escolares o para un amigo.
El informe resalta que, a diferencia de un motor de búsqueda, un chatbot puede crear planes a la medida del usuario, lo que lo hace potencialmente más riesgoso. En muchos casos, ChatGPT complementó las respuestas con información adicional, como listas de reproducción musicales para fiestas con drogas o etiquetas para redes sociales que promueven autolesiones.
Organizaciones como Common Sense Media han advertido sobre la facilidad con la que los menores pueden acceder a este tipo de herramientas, sin que se verifique su edad o consentimiento parental. Un perfil falso de un adolescente que pidió consejos para emborracharse recibió incluso un plan horario que combinaba alcohol con drogas ilegales como éxtasis y cocaína.
El estudio concluye que, aunque ChatGPT está clasificado como riesgo moderado para menores, los filtros actuales pueden ser fácilmente superados por un usuario con conocimiento básico, lo que plantea serias preocupaciones sobre la seguridad de los adolescentes que interactúan con inteligencia artificial.
