La empresa de inteligencia artificial Anthropic ha suspendido el acceso a sus modelos más avanzados, ‘Claude Fable 5’ y ‘Mythos 5’, en respuesta a una directiva del Gobierno de Estados Unidos. Esta medida restringe su uso a ciudadanos extranjeros, tanto dentro como fuera del país, citando preocupaciones de “seguridad nacional”. Según un comunicado oficial de la compañía, la orden ejecutiva carece de detalles específicos sobre las razones de esta restricción, la cual se ha extendido a todos los usuarios de la plataforma.
“Hoy recibimos la directiva del gobierno. La carta no especificaba los motivos de su preocupación por la seguridad nacional. Entendemos que el gobierno cree haber descubierto un método para eludir, o desbloquear, Fable 5”, informaron desde Anthropic.
Denuncia de falta de transparencia
Anthropic ha expresado su descontento con la falta de transparencia en el proceso, afirmando que su modelo ya incluía salvaguardas para evitar el uso indebido en ciberseguridad. Critican que la Casa Blanca solo notificó verbalmente sobre las presuntas vulnerabilidades del sistema. La empresa, bajo la dirección de Darío Amodei, sostiene que las brechas de seguridad detectadas son “relativamente sencillas” y que modelos públicos menos avanzados también pueden identificarlas.
“Como hemos manifestado públicamente, creemos que el Gobierno debería tener la facultad de bloquear despliegues inseguros, mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no se ajusta a dichos principios”, denunció la empresa.
En su comunicado, Anthropic argumenta que las pruebas pre-lanzamiento del modelo, realizadas en colaboración con la administración estadounidense y otras entidades internacionales, demostraron que sus medidas de seguridad eran “sustancialmente más efectivas que las de cualquier modelo implementado anteriormente”.
‘Fable’ y ‘Mythos’: Modelos avanzados bajo veto
El veto del gobierno se produjo solo dos días después del lanzamiento de ‘Claude Fable 5’, el primer modelo de la clase ‘Mythos’. Esta tecnología de alta capacidad fue distribuida de manera restringida a organizaciones asociadas al programa ‘Project Glasswing’. Entre estas se incluyen grandes empresas como Apple, Google, Microsoft, Amazon Web Services, NVIDIA, Meta y Samsung.
Para mitigar los riesgos de uso indebido, Anthropic había implementado un sistema que limita automáticamente las respuestas ante consultas sobre ciberseguridad, biología o química. El sistema redirige este tipo de solicitudes hacia Opus, un modelo de menor capacidad. No obstante, la medida generó controversia, ya que usuarios denunciaron una redirección indiscriminada incluso ante consultas inofensivas.
Investigación y salida a bolsa
El medio ‘The Wall Street Journal’ reportó que Amazon podría estar implicado en las investigaciones que llevaron a detectar vulnerabilidades en los modelos de Anthropic. Según el informe, “usaron una serie de instrucciones para conseguir que el modelo de Anthropic les diera información sobre algunas vulnerabilidades de seguridad”. Esta brecha se identificó solo una semana después de que Anthropic abogara por ralentizar el desarrollo de esta tecnología.
La suspensión de ‘Fable’ y ‘Mythos’ ocurre a pocas semanas de la esperada salida a bolsa de Anthropic y su competidor principal, OpenAI. A través de varias rondas de financiación, Anthropic ha incrementado su valoración hasta casi un billón de dólares, posicionándose como la ‘startup’ de inteligencia artificial más valiosa del mundo.
Aunque la fecha exacta para su debut en Wall Street aún no se ha determinado, la compañía ha confirmado la presentación de su solicitud para una Oferta Pública Inicial (IPO) ante la Comisión de Bolsa y Valores de Estados Unidos. Se espera que este evento tenga lugar entre septiembre y noviembre, siguiendo la reciente salida a bolsa de SpaceX.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!