Más del 50% de las empresas en América Latina están experimentando problemas relacionados con el sesgo en los datos, según un estudio realizado por Progress.
El sesgo en los datos (data bias) se refiere a la distorsión sistemática o parcialidad presente en los conjuntos de datos utilizados para entrenar modelos de inteligencia artificial (IA) y aprendizaje automático (ML).
Este sesgo puede surgir debido a la forma en que se recopilan, seleccionan o etiquetan los datos, lo que puede llevar a que los modelos generen resultados incorrectos o discriminatorios.
La encuesta reveló que la mayoría de las organizaciones reconocen la importancia de mitigar el sesgo en los datos y creen que es un problema extendido en sus empresas. Sin embargo, tienen dificultades para abordarlo de manera efectiva.
El estudio, titulado ‘Data Bias: The Hidden Risk of AI’ (Sesgo en los datos: el riesgo oculto de la inteligencia artificial), fue realizado por la firma de investigación Insight Avenue y contó con la participación de más de 640 profesionales de negocios y tecnología de nivel directivo y superior.
Estos profesionales utilizan datos para tomar decisiones y están implementando o planean implementar inteligencia artificial y aprendizaje automático en su proceso de toma de decisiones.
Según los resultados de la encuesta, el 73% de los responsables de la toma de decisiones en empresas latinoamericanas creen que el sesgo en los datos se convertirá en una preocupación mayor a medida que aumente el uso de la IA y el ML.
Sin embargo, solo el 22% está abordando activamente este problema y cuenta con un proceso de evaluación continua.
Los principales obstáculos identificados son la falta de conciencia sobre los posibles sesgos, la comprensión de cómo identificarlos y la falta de recursos expertos, como científicos de datos.
Otros hallazgos relevantes
- El 69% de las organizaciones latinoamericanas planea depender cada vez más de la IA y el ML para la toma de decisiones en los próximos años.
- El 59% cree que actualmente existe sesgo de datos en su organización.
- El 75% considera que se necesita hacer más para abordar el sesgo en los datos.
- El 51% percibe la falta de conciencia y la subestimación de los sesgos como obstáculos para abordar el problema.
