Anthropic, una startup de inteligencia artificial que se posiciona como creadora de un chatbot más seguro, recaudó 450 millones de dólares en fondos para impulsar el desarrollo de su bot llamado Claude.
Con este acuerdo, el total recaudado por la compañía supera los 1,000 millones de dólares.
Claude, al igual que ChatGPT de OpenAI, está construido sobre un modelo de lenguaje grande y puede utilizarse para tareas escritas como resúmenes, búsquedas, respuestas a preguntas y codificación.
Sin embargo, a pesar de las críticas que ha enfrentado ChatGPT y las modificaciones realizadas después de ofrecer a los usuarios algunos resultados preocupantes, Anthropic tiene la intención de hacer que su chatbot sea más cauteloso desde el principio.
El objetivo de Anthropic es que Claude sea menos propenso que otros chatbots a la manipulación que pueda generar resultados dañinos u ofensivos.
Los cofundadores de la startup son exlíderes del competidor OpenAI. Anthropic fue fundada en 2021 por un grupo de exempleados de OpenAI, incluidos los hermanos Daniela y Darío Amodei. La startup y su liderazgo han advertido sobre la necesidad de ser cautelosos al desarrollar y lanzar sistemas de inteligencia artificial debido a su potencial para transformar industrias.
‘Creo que existe un increíble potencial que proviene de estos sistemas, pero también, como estamos viendo, existe un gran potencial de daño’, dijo Daniela. ‘Pienso que aún no comprendemos completamente todas las posibles consecuencias negativas que estos sistemas pueden crear. Estamos comenzando a ver algunas de ellas’.
Anthropic comenzó a ofrecer su chatbot, su primer producto disponible públicamente, a empresas interesadas en integrarlo en sus productos en marzo. Actualmente, Claude está disponible a través de aplicaciones como Poe de Quora, que permite a los usuarios hacer preguntas y discutirlas. También se ofrece a través de Slack, proporcionando resúmenes de hilos y respondiendo preguntas.
Yasmine Razavi, socia de Spark Capital, también se unirá a la junta directiva de Anthropic, lo que aumentará el tamaño de la junta a cuatro miembros. Razavi mencionó que su interés en la empresa se debe, en parte, a sus esfuerzos relacionados con la seguridad, y ve a Anthropic como una constructora de una tecnología fundamental en un momento en que el campo de la IA está evolucionando rápidamente.
