Inicio Articulos. ChatGPT, cómo funciona y qué retos de ciberseguridad implica

ChatGPT, cómo funciona y qué retos de ciberseguridad implica

Ante la llegada de herramientas que hacen uso intensivo de inteligencia artificial como ChatGPT o GPT-4 podemos esperar que las ciberamenazas sigan evolucionando y creciendo

Por Arturo Torres, Estratega de Inteligencia de Amenazas para FortiGuard Labs de Fortinet América Latina y el Caribe

 

Estas últimas semanas hemos oído hablar mucho sobre el ChatGPT o su reciente nueva versión GPT-4 y cómo este chat, basado en inteligencia artificial, puede llegar a trasformar la manera en la que nos comunicamos con los buscadores tradicionales, creamos textos, enviamos mensajes etc.

La forma en la que opera está basada en un modelo de lenguaje con más de 175 millones de parámetros, entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje, desde la traducción hasta la generación de texto, utilizando algoritmos de inteligencia artificial (IA) como Procesamiento de Lenguaje Natural (NPL), entre otros.

Esto convierte a ChatGPT en una IA generativa, capaz de replicar la forma de pensar de una persona, creando así contenido, y si bien está tecnología desarrollada por la empresa OpenAI, puede traducirse en un sinfín de beneficios, trae consigo importantes retos a nivel seguridad, igual que cualquier tecnología emergente que opere en el ciberespacio.

Imaginemos por un momento que un cibercriminal quiere enviar un correo electrónico de phishing a un empleado, fingiendo ser el gerente de una organización, este puede utilizar fácilmente la tecnología basada en IA no solo para crear la plantilla, sino, también, para simular la escritura de otra persona.

Aunque la herramienta tenga restricciones para evitar sus usos con propósitos delictivos, existen casos en donde se pueden evadir para generar un código maliciosos, encontrar y explotar brechas de seguridad y distribuir malware, además de que puede ser combinado con otras herramientas basadas en IA para realizar DeepFake de voz y simular la voz de una persona (un director o un CEO) para cometer fraudes.

Si a esto le sumamos que podría reducir el costo de entrada basado en habilidades para nuevos atacantes, al realizar de manera automatizada algunas tareas requeridas por los ciberdelicuentes menos calificados, los riesgos son enormes.

Sin embargo, existen formas de mantenernos a salvo, ante este escenario es hoy más importante que nunca el apegarnos a buenas prácticas de ciberseguridad.

Es crucial estar al tanto de los riesgos a través de entrenamiento básicos sobre concientización y capacitación en temas relacionados al panorama de amenazas, sus avances y cómo evitar ser víctimas ante cualquier intento de fraude de cualquier tipo. Además de promover buenas prácticas de ciberhigiene entre nuestros colaboradores y allegados.

Para las organizaciones, es importante asegurarse de diseñar un plan integral de ciberseguridad que involucre a cada miembro de la organización, sin importar el papel que desempeñe o el área a la que pertenezca.

Adicionalmente, es recomendable apalancarse de la tecnología utilizando enfoques orientados a “zero trust” que incluyan autenticación multifactor de usuarios, soluciones de detección y respuesta para endpoint (EDR), contar con un servicio de Monitoreo Digital de Riesgos y un plan de Respuesta a Incidentes.

Estamos viviendo en un panorama de ciberamenazas que crece a un modo exponencial: tan solo en el  2022 se detectaron 360 mil millones de intentos de ciberataques en América Latina y el Caribe, mientras que en México, se contabilizaron 187 mil millones, de acuerdo con los últimos datos obtenidos por FortiGuard Labs de Fortinet.

Ante la llegada de herramientas que hacen uso intensivo de inteligencia artificial como ChatGPT o GPT-4 podemos esperar que las ciberamenazas sigas evolucionando y creciendo, lo que convierte a la prevención y a la educación en nuestros mejores aliados para mantenernos más seguros y crear entre todos un mundo digital en el que todos podamos confiar.