Trump levanta restricciones sobre potentes IA de Anthropic, Fable y Mythos

Anthropic informó que el Departamento de Comercio de Estados Unidos ha eliminado los controles de exportación sobre sus avanzados modelos de inteligencia artificial, Fable y Mythos. Esta decisión se produjo menos de tres semanas después de que la compañía fuera obligada a suspender el acceso debido a preocupaciones de seguridad nacional. Las autoridades en Washington han incrementado la vigilancia sobre el desarrollo de nuevos modelos de IA, en un esfuerzo por identificar posibles riesgos asociados, particularmente en relación con su uso indebido por parte de servicios de inteligencia de países como China y Rusia.

Contexto de la Restricción

El 12 de junio, una orden obligó a Anthropic a restringir el acceso de sus modelos Mythos 5 y Fable 5 a ciudadanos extranjeros, lo que llevó a la empresa a desactivarlos para todos los usuarios debido a la imposibilidad de verificar la nacionalidad en tiempo real. Posteriormente, el gobierno estadounidense permitió el acceso limitado a Mythos 5 para algunas organizaciones nacionales seleccionadas como “de confianza”. Originalmente, este modelo fue diseñado para detectar vulnerabilidades de ciberseguridad y se había lanzado como parte del proyecto Glasswing.

Acciones y Medidas de Seguridad

Tras la implementación de medidas de seguridad adicionales, Anthropic ha obtenido la aprobación para levantar todas las restricciones de exportación sobre sus modelos. La empresa colabora estrechamente con el gobierno estadounidense para permitir un acceso más amplio a Mythos 5, tanto a nivel nacional como internacional, dentro del marco del programa Glasswing. Fable 5, destinado al público general y con medidas de seguridad más estrictas, estará disponible a partir del miércoles.

Colaboración y Desarrollo de Estándares

La relación de Anthropic con la administración de Donald Trump ha sido complicada, pero la empresa está intensificando su cooperación con el gobierno. Esto incluye proporcionar acceso anticipado a socios gubernamentales específicos. Además, Anthropic trabaja junto a empresas como Amazon, Microsoft y Google en el desarrollo de estándares comunes para evaluar y corregir posibles “jailbreaks” que puedan eludir las medidas de seguridad de la IA. Este esfuerzo incluye la creación de un sistema para clasificar la gravedad de estas vulnerabilidades.

“Anthropic ha acordado colaborar diligentemente con el Gobierno de EEUU en los protocolos de Mythos, Fable y futuros modelos, así como informar sobre cualquier actividad maliciosa”, indicó el secretario de Comercio de EEUU, Howard Lutnick.

Riesgos y Desafíos Futbolísticos

La orden de control de exportaciones se emitió tras descubrirse un método para eludir las medidas de seguridad de Fable 5, lo que permitía al modelo identificar y explotar vulnerabilidades de software. En respuesta, Anthropic ha implementado una nueva seguridad que bloquea dichas acciones y redirige solicitudes sospechosas al modelo Opus 4.8, aunque esto pueda incomodar a los usuarios.

La empresa reconoce que es “probablemente imposible” hacer que un modelo de IA sea completamente inmune a fugas de seguridad. Sin embargo, continúan los esfuerzos para detectar y mitigar estas amenazas, destacando la prueba de seguridad constante a la que se somete Fable 5.

Isaac Harris, director del Frontier Security Institute, comentó sobre el establecimiento de normas para los modelos estadounidenses, pero expresó su preocupación por la gestión de capacidades peligrosas provenientes de China.