Anthropic, una destacada start-up en el ámbito de la inteligencia artificial y valorada en casi un billón de dólares, ha solicitado a otras compañías del sector que desaceleren el desarrollo de esta tecnología. La empresa ha expresado preocupación sobre el rápido avance de la IA, que podría llegar a un punto donde se automejore sin intervención humana, lo que conllevaría riesgos significativos para la sociedad.
Preocupaciones sobre el avance de la IA
En un comunicado oficial, Anthropic plantea que una desaceleración en el despliegue global de la IA sería beneficiosa. Según datos internos de la compañía, los modelos generativos están alcanzando niveles de desarrollo que permitirían su progreso autónomo sin necesidad de intervención humana. Marina Favaro, directora del instituto de investigación interna de Anthropic, y Jack Clark, cofundador de la firma, sugieren que una pausa permitiría que las estructuras sociales y la investigación se adapten al ritmo del avance tecnológico.
“Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre la alineación puedan seguir el ritmo del avance de la tecnología”, afirmaron Favaro y Clark.
Propuesta de un acuerdo global
Anthropic ha propuesto la creación de un acuerdo internacional para ralentizar el desarrollo de la inteligencia artificial. Este acuerdo, aunque de difícil consecución, debería contar con la participación de empresas influyentes como OpenAI, Google, Meta, xAI de Elon Musk, y la firma china DeepSeek, entre otras. El objetivo sería establecer un mecanismo de verificación para asegurar el cumplimiento de los términos por parte de los firmantes.
Historia y logros de Anthropic
Fundada en 2021 como una escisión de OpenAI, Anthropic fue liderada por los hermanos Daniela y Dario Amodei, quienes abogaban por un enfoque más cauto en el desarrollo de IA que el de su antigua compañía. Con su serie de modelos de lenguaje Claude, Anthropic ha alcanzado una valoración de 965.000 millones de dólares, posicionándose como la start-up más valiosa del planeta. La empresa se encuentra actualmente en proceso de preparación para una oferta pública inicial que podría ser histórica.
Posicionamiento y postura ética
Anthropic ha ganado notoriedad no solo por su éxito económico, sino también por su postura ética en el uso de la inteligencia artificial. La compañía ha confrontado al Gobierno de Estados Unidos para evitar que su tecnología se utilice en espionaje militar o en la creación de armas autónomas. Además, Anthropic ha desarrollado Mythos, un modelo de IA que ha generado inquietud en Europa por sus posibles implicaciones en la ciberseguridad global.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!