Google lanzó Perspective, una herramienta de inteligencia artificial para que los medios de comunicación puedan detectar de forma automática los comentarios ‘tóxicos e irrespetuosos’.
‘Perspective es una tecnología que utiliza el aprendizaje automático (machine learning) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que llevan a alguien a abandonar una conversación’, explicó el responsable de la iniciativa, Jared Cohen.
Para dimensionar la magnitud del problema, el 47% de los usuarios de Internet en Estados Unidos ha sufrido acoso; un 72% sido testigo de este abuso, y casi un tercio se autocensura a la hora de poner un mensaje por miedo a las consecuencias.
Perspective analiza los comentarios y detecta el grado de toxicidad de las conversaciones, ofreciéndole a medios y plataformas de internet la información detallada en un marcador que va de cero a cien.
Un algoritmo compara los comentarios analizados con otros que anteriormente fueron categorizados como tóxicos. También dispone de un sistema que se corrijan evaluaciones erróneas. Cuanta más información maneje, más atinado será su juicio.
El proceso implica primero a un grupo de personas que revisa comentarios y crea una base de datos en la que se incluyen aquellos considerados tóxicos, ya sea porque tienen insultos o serias faltas de respeto. Posteriormente Perspective, de manera autónoma, se encarga de analizar decenas de miles de comentarios de páginas webs. Para saber cuáles son tóxicos, hace una evaluación y compara con los que están en la base de datos. Si hay similitud con los que ya se consideran perjudiciales, los identifica y añade.
El nuevo proyecto de inteligencia artificial de Google pretende ser una herramienta útil para luchar contra el ‘acoso en línea‘ y la creciente toxicidad de las conversaciones en la red’.
‘Un número de individuos están dificultando la discusión civilizada y dinámica en las secciones de comentarios de plataformas y medios, lo que lleva a que mucha gente abandone la conversación. (…) Muchos medios han terminado cerrando esas secciones’, añadió Cohen.
Cohen matizó que son los medios quienes tienen que decidir cómo usarán ese marcador: por ejemplo, para detectar los comentarios que deben ser revisados a mano, para mostrar a los lectores ese grado de toxicidad o bien permitirles que filtren los comentarios en función del nivel que están dispuestos a tolerar.
La tecnológica ya ha probado el algoritmo con ‘The New York Times’, ‘The Guardian’, ‘The Economist’ y la Fundación Wikimedia, responsable de la Wikipedia.
Cualquier medio o plataforma de internet puede utilizar Perspective de forma gratuita -a través de una API-, aunque por el momento solo existe un modelo para el idioma inglés.
En el futuro, a medida que editores de otras lenguas se sumen al proyecto, la ‘aspiración’ de Google es ir ampliando el rango de idiomas disponibles.
También esperan que a lo largo del año Perspective evolucione y sirva para detectar en los comentarios ataques directos y temas que no tienen nada que ver con la discusión en marcha.
EFE
