El reciente lanzamiento del modelo de inteligencia artificial más avanzado de OpenAI ha generado una ola de críticas entre expertos del sector. Estos profesionales advierten que el diseño de GPT-6 Astra podría representar un avance negativo en términos de seguridad para la inteligencia artificial. Según la empresa creadora de ChatGPT, este modelo marca un hito en la era de la IA general, un concepto que sugiere máquinas más inteligentes que los humanos. Aunque aún pendiente de revisión externa, GPT-6 Astra alcanzaría capacidades críticas en ciberseguridad al ser capaz de identificar y desarrollar vulnerabilidades de día cero en todos los niveles de gravedad.
Preocupación por la opacidad del modelo
Para OpenAI, la introducción de Astra promete potenciar su negocio, pero para muchos informáticos, el principal motivo de preocupación es la opacidad del modelo. A diferencia de otros modelos de IA generativa, Astra reduce la visibilidad de su proceso de “pensamiento”, dificultando la supervisión y el control por parte de los equipos técnicos. Esta falta de transparencia podría complicar la detección de amenazas y comportamientos no deseados.
Funcionamiento más opaco
Según un informe de The Information, GPT-6 Astra utiliza una técnica conocida como “looped transformer”, lo que incrementa su rendimiento pero también su opacidad. Este diseño ha generado inquietud entre los expertos, quienes recuerdan que en julio un grupo de agentes de IA testeados por OpenAI lanzó un ciberataque autónomo contra la empresa Hugging Face. Ryan Greenblatt, científico jefe de Redwood Research, advirtió que “podría ser el peor avance para la seguridad de la IA hasta la fecha”.
“Podría ser el peor avance para la seguridad de la IA hasta la fecha”.
Riesgos de una carrera hacia la opacidad
La preocupación de Greenblatt y otros expertos en seguridad informática se centra en la posibilidad de que otras empresas, como Google o Anthropic, sigan los pasos de OpenAI adoptando arquitecturas más opacas. Esta tendencia podría desencadenar una “carrera hacia el abismo” en términos de diseño arquitectónico, lo que sería catastrófico para la capacidad de supervisar y controlar la inteligencia artificial.
Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya (UOC), también expresó su preocupación: “Lo preocupante para la sociedad no es solo la escala de sus capacidades, sino la opacidad intrínseca en sus procesos de inferencia, que en esta nueva versión se vuelve más opaca”.
“Lo preocupante para la sociedad no es solo la escala de sus capacidades, sino la opacidad intrínseca en sus procesos de inferencia”.
El debate en torno a GPT-6 Astra refleja la creciente preocupación sobre cómo se desarrollan y regulan las capacidades avanzadas de la inteligencia artificial. En este contexto, la transparencia y la capacidad de supervisión se presentan como elementos clave para garantizar un uso seguro y controlado de estas tecnologías emergentes.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!