Los legisladores de California están a punto de votar sobre una ley que busca establecer regulaciones para las empresas de inteligencia artificial (IA) en el estado.
Se trata de una medida que ha generado preocupación entre políticos y empresarios tecnológicos en Silicon Valley, epicentro de la innovación en IA en Estados Unidos.
La propuesta legislativa, conocida como SB-1047, ya fue aprobada por el Senado estatal con un margen abrumador de 32 votos a favor y solo uno en contra. Ahora se encuentra en espera de ser votada en la asamblea estatal, aunque aún no se ha fijado una fecha concreta. La sesión legislativa culmina el 31 de agosto.
Si el proyecto de ley obtiene la aprobación, el gobernador de California, Gavin Newsom, tendrá hasta el 30 de septiembre para decidir si lo convierte en ley o lo veta. Newsom no ha emitido una opinión definitiva sobre la medida hasta el momento.
La SB-1047, impulsada por el senador demócrata Scott Wiener, quien representa a San Francisco, busca establecer salvaguardias que impidan que los modelos de IA puedan causar daños significativos.
La legislación propone que los modelos de IA más avanzados, definidos como aquellos cuyo desarrollo supera los 100 millones de dólares o que poseen un umbral determinado de capacidad computacional, se sometan a pruebas de seguridad rigurosas antes de ser lanzados al mercado.
En caso de incumplimiento, la ley otorgaría al fiscal general de California la facultad de emprender acciones legales contra las empresas responsables, si se determina que su tecnología presenta un riesgo grave o inminente. La iniciativa también exige que los desarrolladores incluyan una función de apagado en sus modelos para evitar posibles desastres.
No obstante, la propuesta ha encontrado resistencia entre destacados tecnólogos y políticos, incluidos algunos demócratas influyentes como Nancy Pelosi, ex presidenta de la Cámara de Representantes de EU. Pelosi advirtió en un comunicado del 16 de agosto que la SB-1047 podría tener ‘consecuencias no deseadas que sofocarían la innovación y perjudicarían el ecosistema de IA en Estados Unidos’.
En respuesta, Wiener defendió su proyecto, argumentando que la ley no solo fomenta la innovación sino que cuenta con el apoyo de figuras clave en el campo de la IA, como Yoshua Bengio, Geoffrey Hinton, Lawrence Lessig y Stuart Russell, quienes han respaldado la necesidad de pruebas de seguridad como las propuestas en la SB-1047.
El New York Times informó que algunos opositores temen que esta legislación pueda provocar un éxodo de empresas de IA a otros estados, justo cuando la región de la Bahía de San Francisco está comenzando a recuperarse de los efectos económicos de la pandemia.
