A medida que la industria tecnológica avanza hacia una inteligencia artificial cada vez más deslumbrante, hay una pregunta inevitable para la humanidad: ¿son buenas o malas noticias?
El CEO de OpenAI, Sam Altman, no está de acuerdo en el pronóstico de que la inteligencia artificial ‘nos matará a todos’.
En Silicon Valley hay un pequeño pero poderoso grupo de personas que creen que podrían ser muy malas noticias, y que la IA, si no se maneja correctamente, podría acabar con la humanidad en un par de décadas.
También hay una multitud de personas que piensan que nuestro futuro de IA será increíble, lo que generará capacidades futuras incalculables, abundancia y utopía.
En los últimos años, la obsesión de Silicon Valley con las apuestas astronómicas de la futura IA se ha convertido en una amarga disputa. Y en este momento, ese cisma se está desarrollando en línea entre dos personas: el teórico de la IA, Eliezer Yudkowski, y el director ejecutivo de OpenAI, Sam Altman. Desde principios de la década de 2000,
Yudkowsky ha hecho sonar la alarma de que es probable que la inteligencia artificial general esté ‘desalineada’ con los valores humanos y podría decir acabar con nosotros. Trabajó agresivamente para que otros adoptaran la prevención del apocalipsis de IA como una prioridad, lo suficiente como para ayudar a convencer a Elon Musk de que tomara el riesgo en serio.
Musk confundó OpenAI como una organización sin fines de lucro con Atman en 2015, con el objetivo de crear una IA más segura.
En los últimos años, OpenAl ha adoptado un modelo con fines de lucro y ha producido una tecnología de IA más grande, más rápida y más avanzada.
La compañía ha recaudado miles de millones en inversiones y Altman ha aplaudido el progreso hacia la inteligencia artificial general, o AGI.
‘Habrá momentos aterradores, a medida que avanzamos hacia sistemas de nivel AGI. e interrupciones significativas, Pero las ventajas pueden ser tan sorprendentes que bien vale la pena superar los grandes desafíos para llegar allí’, dijo Altman.
Mientras tanto, Yudkowski ha perdido casi toda esperanza de que la humanidad maneje la idea de manera responsable. Después de la creación de OpenAI, con su compromiso de avanzar en el desarrollo de IA, dijo que lloró solo a altas horas de la noche, y pensó: ‘Oh, entonces esto es lo que la humanidad elegirá hacer. No nos elevaremos por encima. No tendremos más gracia, ni siquiera aquí al final’.
El mes pasado, Altman tuiteó una selfie en la que posaba flanqueado por Yudkowsky por un lado y la expareja de Elon Musk, la cantante canadiense Grimes, por el otro. Entonces, ya sea que la IA nos mate a todos en 20 años o no, al menos por ahora todos pueden pasar el rato juntos en las fiestas.
