IBM pidió reglas destinadas a eliminar el sesgo de la inteligencia artificial (IA) para enfrentar las preocupaciones por las tecnologías que manejan bases de datos, que podrían resultar discriminatorias.
La compañía instó a la industria y a los gobiernos a desarrollar conjuntamente estándares para medir y combatir la posible discriminación.
La multinacional estadounidense emitió el martes propuestas de política antes de un panel del miércoles sobre IA que estará a cargo de la Directora Ejecutiva Ginni Rometty al margen del Foro Económico Mundial en Davos.
La iniciativa está diseñada para encontrar un consenso sobre reglas que pueden ser más estrictas de lo que la industria por sí sola podría producir, pero son menos estrictas de lo que los gobiernos podrían imponer por sí mismas.
‘Nos parece bastante claro que la regulación gubernamental de la inteligencia artificial es la próxima frontera en una regulación de la política tecnológica’, dijo Chris Padilla, vicepresidente de asuntos gubernamentales y regulatorios de IBM.
La empresa, una vez líder mundial en tecnología, se ha quedado atrás del sector durante años. En su lucha por seguir siendo relevante, IBM ha fijado su futuro en tecnologías más nuevas como la inteligencia artificial y los servicios en la nube. Pero aún no ha mostrado un crecimiento significativo de ingresos en estas áreas.
Las recomendaciones de IBM exigen que las empresas trabajen con los gobiernos para desarrollar estándares sobre cómo asegurarse, por ejemplo, de que a los afroamericanos se les garantice un acceso justo a la vivienda a pesar de los algoritmos que se basan en datos históricos como códigos postales o tasas hipotecarias que pueden haber sido sesgadas por la discriminación.
En los Estados Unidos, eso probablemente ocurriría a través del Instituto Nacional de Estándares y Tecnología dentro del Departamento de Comercio de los Estados Unidos.
IBM también sugiere que las compañías nombren a los principales funcionarios de ética de IA y lleven a cabo evaluaciones para determinar cuánto daño puede representar un sistema de IA y mantengan la documentación sobre los datos al hacer determinaciones o recomendaciones con implicaciones potencialmente significativas para las personas.
Encabezar el debate regulatorio de IA le da a IBM la oportunidad de volver a ser el centro de atención como líder en tecnología de punta, una posición que no ha ocupado durante años.
Las preocupaciones sobre inteligencia artificial y el aprendizaje automático –herramientas de software que utilizan los datos existentes para automatizar el análisis y la toma de decisiones–, van desde la identificación de rostros en imágenes de cámaras de seguridad hasta la determinación de las tasas hipotecarias.
La inteligencia artificial es fundamental para el futuro de muchas empresas, incluida IBM, pero ha generado preocupación de que podría eliminar empleos y difundir las disparidades existentes en áreas como en la aplicación de la ley, el acceso al crédito y la contratación.
IBM ha estado trabajando con la administración Trump desde el verano pasado en su enfoque de la regulación de IA.
A principios de este mes, la Casa Blanca emitió pautas para el uso de la tecnología por parte de las agencias federales, que enfatizaba el deseo de no imponer controles onerosos. La semana pasada, un grupo bipartidista de senadores estadounidenses presentó un proyecto de ley diseñado para impulsar la financiación pública y privada para la IA y otras industrias del futuro.
