A raíz de que un grupo de empresarios enfocados a la innovación de sistemas tecnológicos denominados de Inteligencia Artificial (IA), piden, a través de una carta, una pausa o suspensión en las investigaciones y desarrollos en esta materia, destacando la necesidad de implementar protocolos para ser compartidos y aplicados en futuras herramientas de IA, aludiendo a la necesidad de hacerlas seguras y subrayando “más allá de toda duda razonable”, prenden un foco de alarma.
La carta fue publicada por Future of Life Institute, una organización sin fines de lucro financiada por Elon Musk. La iniciativa pide a las instancias dedicadas a la elaboración de sistemas de IA, que detengan su entrenamiento, sobre todo de los más poderosos, por un espacio mínimo de tiempo de seis meses, resaltando que se trata de evitar “riesgos profundos para la sociedad y la humanidad”.
Percibimos que un tema que ha venido tomando auge en la información periodística, es el relativo a la IA, sobre todo en el desarrollo logrado con el uso y manejo del lenguaje, en donde destacan los ChatGTP, un prototipo de chatbot construidos con un sistema de IA por OpenAI, empresa fundada por Elon Musk y tres personas más en San Francisco, California, especializada en el manejo del lenguaje.
A la fecha destacan dos sistemas elaborados por esta organización: GPT-3 y una versión mejorada, GPT-4. En el mundo tecnológico sobresalen por su capacidad para imitar la conversación humana con una gran precisión, teniendo la facultad de generar texto claramente congruente para cualquier ser humano. Estos sistemas han sido entrenados para operar y analizar grandes cantidades de datos y luego mediante un portentoso proceso algorítmico ofrecer respuestas congruentes a las preguntas que realice un usuario.
Una de las limitaciones que destaca en los ChatGPT es que adolecen de la capacidad para autenticar la veracidad de la información que proporciona, sus respuestas derivan de un proceso basado en un entrenamiento de frecuencia y asociación de palabras de las fuentes de donde toma la información, lo que induce a que en ocasiones ofrezca respuestas erróneas o no claras. La información utilizada por estos ChatGPT proviene del arsenal de los diversos textos publicados en la red de Internet, sin considerar aún el acervo con fechas previas al 1 de enero de 2022.
No deja de sorprender la elaboración y publicación de esta carta, sobre todo viniendo de los promotores y desarrolladores de estas herramientas, resaltando que esta misiva se da a conocer mundialmente, dos semanas después de que OpenAI anunciara la aparición de la versión GPT-4. Uno de los argumentos esgrimidos por el grupo Goldman Sachs, apoyando la iniciativa de suspensión, indica que la última ola de chatbots con IA podría afectar alrededor de 300 millones de empleos en todo el mundo.
En la carta se esgrime: “La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes”, añadiendo: “Desafortunadamente, este nivel de planificación y gestión no está sucediendo, a pesar de que en los últimos meses los laboratorios de IA se han visto envueltos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable”.
Ante la ola causada por los chatbots, se ha incorporado un buen número de empresas para desarrollar y competir en la elaboración de estas herramientas de escritura y generación de imágenes de IA. Por ello resulta importante y un tanto extravagante que Musk y sus socios propongan una pausa como tal, basada en la argumentación de “una carrera fuera de control para desarrollar y desplegar mentes digitales…”.
Desde luego que este tipo de herramientas, tiende a provocar un cambio en el comportamiento social, de la misma manera que los buscadores de datos e información como Google lo ha hecho, pero adjudicarle el calificativo de: “un cambio profundo en la historia de la vida en la tierra”, se parece más a una predicción derivada de una novela de ciencia ficción.
Estas herramientas no dejan de ser motores de búsqueda como lo es por ejemplo Google, aunque superando la forma de presentación de una respuesta al usuario que la requiere. La información de las respuestas es obtenida por uno o más motores de búsqueda para, posteriormente, armar mediante un algoritmo la presentación de manera elocuente. Justamente todo el protocolo de armado y presentación de la información a las preguntas de un usuario es lo que se alude un proceso de IA. Por ello resulta difícil concebir que esto se lleve al terreno de “mentes digitales”, cuando no tiene nada que ver con un proceso mental semejante al de un ser humano.
Apuntemos antes de continuar con el tema central de los chatbots, uno de los principales problemas que padece la humanidad actualmente: La profunda desigualdad social existente en el planeta. Para situar debidamente el uso de los chatbots, echemos un vistazo al universo de usuarios. Desde luego, me atrevo a asegurar que uno de los pilares de la transformación de los modelos sociales es sin duda los desarrollos tecnológicos derivados de las TIC. No obstante, estos desarrollos se aplican bajo un patrón de desigualdad impuesto por los esquemas derivados de las reglas del mercado.
En relación con la desigualdad, me permito incorporarla en el tema que aquí nos ocupa. La desigualdad mundial en acceso a internet, de acuerdo con cifras del portal World Stats de 2021, indica que 52% de las mujeres y 42% de los hombres carecen de este acceso. Los habitantes que se encuentran en áreas sin cobertura de Internet pueden considerarse incomunicados, padeciendo de aislamiento social.
En este punto conviene matizar entre el acceso a Internet y la alfabetización digital, esto es, el proceso de aprendizaje que permite a una persona adquirir las competencias necesarias para aprovechar el potencial de las nuevas TIC. La discriminación tecnológica provoca una forma de pobreza y marginación social, impidiendo a una parte importante de la población aprovechar sus desarrollos e innovaciones.
El modelo conductual del avance de la ciencia y la tecnología no está ligado a propiciar un desarrollo social equitativo, se concentra en favorecer a la población en función de las directrices del mercado basadas en la oferta y la demanda, lejos de potenciar los beneficios para los derechos de todos los seres humanos. La desigualdad en el uso de las TIC es un serio detonante que impacta en la evolución de la especie humana.
De lo anterior, resulta inconcebible la posición adoptada por el grupo, proponiéndose como guías espirituales de la humanidad, aludiendo que los científicos e investigadores de las TIC en materia de IA se abstengan de continuar avances en la mejora de chatbots, porque se puede descarrilar la historia de la vida de los seres vivos en el planeta.
Resalta la suposición de que estamos en los albores de construir mentes digitales que compitan con la población de humanos para desplazarlos de sus trabajos, lo cual se antoja, por ahora, a una novela de Isaac Asimov. Hay una confusión en cuanto a tiempos de penetración, las computadoras desde luego cambiaron la forma de trabajar que prevalecía a mediados del siglo XX, incorporando en un proceso evolutivo a millones de trabajadores en la utilización de las nuevas herramientas de cómputo, pero esto nunca se tradujo en que perdiera su trabajo un número similar de personas. Sí, seguramente serán afectados un gran número de empleos, pero lo más seguro es que esta transición llevará un buen tiempo en irse concretando.
Lo sorprendente es generalizar, aludiendo a la población mundial en un plano de que todos somos iguales; biológicamente sí, pero no en el terreno del reparto de recursos y oportunidades. Simplemente, el que casi la mitad de la humanidad no tenga acceso a la red de Internet, descalifica una buena parte de la argumentación que utiliza en su carta el grupo Future of Life Institute. Otra cosa sería, si la propuesta estuviera dirigida a que estas herramientas sean impulsadas para reducir la brecha digital, pero su enfoque es netamente mercantil, a quien realmente quieren detener es a sus competidores.
Si bien, en su argumentación, proponen que los chatbots, derivados del ensayo y la investigación, sean perfeccionados en cuanto a su utilización, otra cosa sería si se tomara en consideración la brecha digital que separa a los usuarios de las TIC de los que no tienen esta posibilidad.
Un caso es la posible implementación de proyectos para que el uso de los chatbots sea incorporado en las sociedades de bajos recursos, con el apoyo de instructores para su adecuada explotación por parte de profesores y estudiantes, para apoyar la impartición de la educación escolar. Eso sí que cambiaría profundamente el acceso a las fuentes de información de una parte de la humanidad que hoy en día se encuentra relegada. Si este fuese el propósito de detener el desarrollo y perfeccionamiento de los chatbots, sería estupendo.
Imaginemos que OpenAI convoca mundialmente a los desarrolladores de estas herramientas para elaborar un magno proyecto que permita potenciar la educación escolar a todos los niveles, estableciendo reglas claras del juego, que permitan: una adecuada protección a la privacidad; establecer las directrices legales para la recopilación de datos que entrenen a los chatbots, implementando normas para justificar la veracidad de las respuestas que otorgan; definir como identificar a los usuarios para permitirles realizar un determinado tipo de búsquedas; que estén plenamente expuestas las fuentes de información a través de la las cuales se alimenta la herramienta para proporcionar sus respuestas.
Ojalá el altruismo de Elon Musk y sus socios vieran no solo las implicaciones derivadas de una adecuada reglamentación en el uso de los chatbots para el mercado actual de usuarios, sino considerarlos como una potencial herramienta para impulsar que los grandes sectores marginados de la población mundial, tenga acceso a fuentes de información que les permita obtener y consolidar una mejor visión del mundo que les rodea. Yo diría, democratizar la información.
