El Banco Central Europeo (BCE) ha establecido un plazo hasta noviembre para que los bancos europeos fortalezcan su infraestructura ante el avance de la inteligencia artificial (IA). Esta decisión se produce en un contexto donde la velocidad de desarrollo de la IA supera las capacidades actuales de los departamentos tecnológicos bancarios para implementar las medidas de seguridad necesarias. El desafío para la banca es significativo, ya que la IA se perfila como un riesgo sistémico emergente.
El desarrollo de Claude Mythos y sus implicaciones
Anthropic, una empresa estadounidense, ha desarrollado un modelo de computación llamado Claude Mythos, cuyas capacidades avanzadas de programación han llevado a la compañía a restringir su lanzamiento al público general. El motivo es que este modelo podría representar un riesgo para la ciberseguridad global. Algunas de las empresas que tienen acceso a Mythos son gigantes como Amazon, Apple, Google, Microsoft y JPMorgan Chase, entre otras. Estas organizaciones están utilizando el modelo para identificar y corregir vulnerabilidades en sus infraestructuras de software antes de que sean explotadas malintencionadamente.
La decisión de Anthropic refleja el reconocimiento del potencial peligro que representa su propia innovación, lo que subraya la percepción de riesgo sistémico asociado a estas tecnologías emergentes. El plazo establecido hasta noviembre para que los bancos se adapten podría resultar insuficiente, lo que genera preocupación sobre la capacidad del sector para protegerse adecuadamente.
Medidas y desafíos para la banca
El BCE ha instado a las entidades financieras a garantizar que sus programas de gestión sean sólidos y estén diseñados con seguridad desde su concepción. La práctica común en el desarrollo de software ha sido lanzar productos y mejorarlos posteriormente, pero la IA podría cambiar esta dinámica. Las entidades deben ahora enfocarse en detectar intrusiones y ciberataques de manera eficiente, desconectarse rápidamente de la red en caso de amenazas y minimizar los daños potenciales.
“La inteligencia artificial empieza a lograr ser menos cartesiana y puede llegar a ser hasta ‘creativa'”, afirmó un estudio reciente sobre el funcionamiento interno de modelos avanzados como Claude.
La supervisión de la inteligencia artificial
Supervisar herramientas de inteligencia artificial cada vez más sofisticadas es un desafío. Los creadores de aplicaciones basadas en IA generativa reconocen que, aunque comprenden las acciones de sus sistemas, estos pueden desarrollar procesos independientes que escapan al control humano. Claude Mythos, por ejemplo, es capaz de realizar pasos inesperados y generar conceptos abstractos que no siempre se reflejan en sus salidas.
Un estudio reciente ha revelado que el sistema Claude ha creado un “espacio interno inesperado” detectado a través de la técnica de análisis matemático conocida como lente jacobiana. Este espacio está compuesto por patrones neuronales que pueden representar conceptos sin manifestarse necesariamente en la respuesta final del modelo.
Implicaciones futuras
Los modelos de lenguaje natural como Mithos utilizan representaciones sofisticadas para razonar sobre conceptos. La lente jacobiana ha permitido comprender cómo estos modelos generan evaluaciones intermedias que son utilizadas por sus circuitos posteriores, revelando un nivel de abstracción significativo.
“Las implicaciones prácticas son de gran alcance, ya que el espacio de trabajo ofrece una ventana a través de la cual leer, analizar y moldear el pensamiento de los modelos”, concluye el estudio.
Aunque las capacidades de la IA avanzan rápidamente, la ciberseguridad aún se encuentra en una fase preliminar, lo que exige prudencia y preparación por parte de las instituciones financieras y los organismos reguladores.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!