Las prisas por ganar la carrera en la inteligencia artificial han provocado fallas éticas en Google, poniendo en riesgo su compromiso con la desinformación y otros daños, aseguran trabajadores de la compañía.
Según documentación interna revisada por Bloomberg y 18 trabajadores actuales y anteriores de la empresa, Google, tras el lanzamiento de su plataforma Bard, ha estado proporcionando información de baja calidad en una carrera por mantenerse al día con la competencia, dándole menos prioridad a sus compromisos éticos.
Bard es un ‘mentiroso patológico’, dijo uno de los trabajadores, según capturas de pantalla de una discusión interna. Otro lo llamó ‘digno de vergüenza’. Un empleado escribió que cuando le pidieron sugerencias a Bard sobre cómo aterrizar un avión, dio consejos que conducirían a un accidente.
Aunque la compañía se comprometió en 2021 a duplicar su equipo que estudia la ética de la inteligencia artificial y a invertir más recursos en la evolución de los daños potenciales de la tecnología, el debut en noviembre de 2022 del popular chatbot de su rival OpenAI hizo que Google se esforzara por incorporar la IA generativa en todos sus productos más importantes en cuestión de meses.
El ritmo de desarrollo acelerado de la tecnología ha tenido un impacto social notable y el grupo que trabaja en ética de Google se ha sentido desempoderado y desmoralizado.
Los trabajadores han informado que a los miembros del personal responsables de la seguridad y las implicaciones éticas de los nuevos productos se les ha dicho que no se interpongan en el camino y que no intenten eliminar alguna de las herramientas de IA generativa en el desarrollo.
Meredith Whittaker, exgerente de Google y presidenta de Signal Foundation, señaló que la ética de la IA ha pasado a un segundo plano y advirtió que si la ética no tiene prioridad sobre las ganancias y el crecimiento, no funcionará.
Aunque Google ha afirmado que sigue invirtiendo en los equipos que trabajan en la aplicación de sus Principios de Inteligencia Artificial a su tecnología, ha habido despidos en el equipo responsable de la IA y se ha instado a los empleados a no contradecir el sistema si quieren seguir trabajando en la compañía.
