Inicio Datos duros. 1 de cada 4 organizaciones prohíbe uso de IA generativa

1 de cada 4 organizaciones prohíbe uso de IA generativa

Una de cada cuatro organizaciones prohíbe el uso de la inteligencia artificial generativa debido a los riesgos asociados con la privacidad y la seguridad de los datos

Cisco presentó el Estudio sobre Privacidad de Datos de Cisco 2024, una revisión anual que aborda los principales problemas de privacidad y su impacto en el ámbito empresarial.

Los resultados resaltan las crecientes inquietudes en torno a la privacidad vinculadas a la Inteligencia Artificial generativa (GenAI), los desafíos de confianza que enfrentan las organizaciones al utilizar la IA, y los atractivos retornos de la inversión en materia de privacidad.

La séptima edición de este estudio de referencia, basado en las respuestas de 2,600 profesionales de la privacidad y la seguridad de 12 países, incluido México, revela que la privacidad va más allá de ser simplemente una cuestión de cumplimiento normativo.

La preocupación creciente sobre la privacidad relacionada con la GenAI es evidente.

Según Dev Stahlkopf, Chief Legal Officer de Cisco, más del 90% de los encuestados considera que la GenAI requiere nuevas técnicas para gestionar datos y riesgos, lo que subraya la necesidad de una gobernanza reflexiva para preservar la confianza del cliente.

Las principales inquietudes de las empresas encuestadas incluyen amenazas a los derechos legales y de Propiedad Intelectual (69%) y el riesgo de divulgación de información (68%).

En el caso de las empresas mexicanas, la principal preocupación es la divulgación de datos (77%) y los derechos legales (73%).

A pesar de que la mayoría de las organizaciones son conscientes de estos riesgos y han implementado controles para limitar la exposición, como establecer restricciones sobre los datos y las herramientas GenAI, aún se observa la introducción de información problemática, incluidos datos sobre empleados e información no pública sobre la empresa.

En cuanto a la transparencia en la IA, los consumidores mexicanos muestran preocupación, pero el 87% de las organizaciones en el país reconoce que debe hacer más para garantizar a sus clientes que sus datos se utilizan de manera prevista y legítima en la IA.

La confianza del cliente está intrínsecamente vinculada a la privacidad, y las empresas reconocen la necesidad de calmar las preocupaciones de los clientes. El 95% de los encuestados en México afirmó que sus clientes no les comprarían si no protegieran adecuadamente los datos.

A pesar de los costos y requisitos de las leyes de privacidad, el 80% de los encuestados indica que estas han tenido un impacto positivo. La inversión en privacidad se ha duplicado en los últimos cinco años, con un retorno de inversión promedio de 1.6 veces.

Las organizaciones más grandes han aumentado su gasto en privacidad, mientras que las más pequeñas muestran una disminución en la inversión.