China está desarrollando un algoritmo que le permitirá recopilar los datos de las redes sociales que utilizan los ciudadanos de ese país, y así evaluar su lealtad al régimen.
Tal algoritmo obtendrá información bancaria o de consumo en las redes y premiará a los ‘buenos ciudadanos’ con mayores facilidades para conseguir una hipoteca, un trabajo o un colegio de mayor categoría para sus hijos.
Para los gestores de esta medida, hay un potencial beneficio en aspectos como la credibilidad judicial o la sinceridad social y comercial.
Por su parte, la detractores alertan de los peligros de crear modelos reduccionistas sobre lo que se considera ser un buen ciudadano y sobre todo la pérdida total de privacidad.
No obstante, algunos hacen notar que este escenario no es algo novedoso, de hecho, consideran que son muchos los mecanismos de este tipo que están en funcionamiento desde hace tiempo en China.
Ramón Sangüesa, doctor en informática e investigador en inteligencia artificial y aprendizaje automático, y coordinador del Data Transparency Lab, considera esencial el desarrollo de un conocimiento y conciencia del público respecto al potencial de estas tecnologías, ya que ‘la tentación de la gestión tecnocrática siempre ha existido o se ha implementado a cierto nivel, estamos en una fase de deriva autoritaria en todo el mundo, y una buena campaña de marketing institucional nos acaba convenciendo de cualquier barbaridad. Véanse desde Eduard Bernarnay (considerado como un inventor de la propaganda y la relaciones públicas), hasta el uso de los bots políticos y los fake news en campañas como la de Trump’.
Al no contar con una visión crítica, podemos ser manipulados sin estar conscientes de ello. Dice Sangüesa que directamente estas plataformas manipulan tus sentimientos y emociones.
Haciendo referencia a un estudio secreto llevado a cabo por Facebook, esta red social realizó un experimento de ingeniería social mediante el cual modificó el estado de ánimo de cerca de 689,000 sus usuarios a partir de las publicaciones de sus amigos. El fenómeno de contagio emocional masivo permitió un mayor conocimiento de la forma en que nos relacionamos, pero también de la relativa facilidad con que se nos puede manipular a nivel psicológico.
Sin embargo, nadie puede asegurar que esas expresiones de alegría o tristeza fueran el sentimiento real de esas personas. Somos, de entrada, animales sociales, pero desde el siglo pasado sopesamos de manera más asumida entre lo que sentimos y que hay que proteger (nuestra intimidad) y la presentación de la persona en la sociedad (nuestro derecho a tener privacidad).
Las tecnologías ‘inevitablemente deben revisarse tras un tiempo’, dice Ramón Sangüesa. La cuestión es bajo qué parámetros y valores se orienta esa revisión en este tipo de aplicaciones de ranking de ciudadanos. […] Hay mucho que hacer por incorporar nuevos marcos evaluativos en los decisores y los tecnólogos que trabajan a sus órdenes. Por el momento, buena parte de lo tecnológico, de Silicon Valley, opera más allá de estas consideraciones. Es una cultura de eficiencia desconectada y otros valores en general. Otros expertos llevan tiempo destacando esa falta de responsabilidad social de grandes empresas tecnológicas cuyo modelo de negocio ha causado distintos escándalos.
Es un enfoque cultural que carece de unos valores que, de no incorporarse, podrían llevar a escenarios poco o nada controlables, como máquinas que lleven a cabo esa labor de vigilancia de forma autónoma. Hace falta una prescripción adecuada que informe hasta dónde deben aprender estos sistemas y de qué fuentes deben aprender. Y para lograrlo, insiste Sangüsa en que hace falta mucha comunicación y conocimiento, además de otras iniciativas que incentiven otros escenarios más positivos como mydata.org, un movimiento que ofrece guías para tener un mayor control sobre toda la información que generamos en nuestra actividad cotidiana. O las actividades educativas para el gran público que organiza el propio Sangüesa desde el colectivo equipo cafeina.net.
‘La humanidad es muy adaptable, es sorprendente la cantidad de cosas a las que llega a acostumbrarse si existe alguna clase de compensación’, citó Margaret Atwood en ‘El cuento de la criada’.
