El Banco Central Europeo ha establecido un plazo hasta noviembre para que las entidades bancarias europeas se preparen frente al avance de la inteligencia artificial. Sin embargo, hay dudas sobre si este tiempo será suficiente, ya que el desarrollo de la IA supera la capacidad de los departamentos tecnológicos de los bancos para implementar medidas de protección adecuadas. A pesar de que la situación está en sus etapas iniciales, se considera un riesgo sistémico potencialmente significativo.
El impacto de Anthropic y Claude Mythos
El origen de la preocupación radica en Anthropic, una empresa estadounidense que ha desarrollado Claude Mythos, un modelo de computación avanzada. Debido a las capacidades de programación de Mythos, la empresa ha decidido limitar su acceso público para evitar riesgos de ciberseguridad a nivel global. Sin embargo, compañías como Amazon, Apple, Google, Microsoft y JPMorgan Chase tienen acceso a este programa para reforzar sus infraestructuras de software antes de que puedan ser explotadas por actores malintencionados.
“El propio desarrollador reconoce el peligro, lo cual sugiere que el riesgo sistémico es real”, indica una fuente cercana a la industria tecnológica.
La respuesta de los bancos y el BCE
Los bancos tienen la capacidad de enfrentar este desafío, según las instituciones financieras. El BCE ha instado a las entidades a garantizar que sus programas de gestión sean seguros desde el diseño inicial. Aunque los programas bancarios suelen ser actualizados regularmente, los errores todavía son frecuentes y podrían ser explotados por IA avanzadas. Uno de los mayores desafíos es la detección y mitigación rápida de ciberataques.
- Reforzar la vigilancia para detectar intrusiones.
- Desarrollar la capacidad de desconexión rápida de la red.
- Minimizar los daños en caso de un ciberataque.
Restricciones y supervisión en el uso de IA
En Estados Unidos, ya se han tomado medidas para proteger especialmente el ámbito militar. Anthropic ha impuesto restricciones al uso de su IA para evitar aplicaciones como la vigilancia masiva o el desarrollo de armas autónomas. Sin embargo, la supervisión de herramientas de inteligencia artificial sofisticadas es compleja, ya que los sistemas pueden desarrollar procesos inesperados que escapan al control humano.
Un estudio reciente ha revelado que el sistema Claude de Anthropic ha creado un espacio interno inesperado, detectado mediante la técnica de análisis matemática conocida como lente jacobiana. Este espacio permite al modelo representar conceptos de manera consciente antes de plasmarlos en respuestas.
“La lente jacobiana revela conceptos altamente abstractos que no representan ni la entrada original ni la salida prevista”, señala el informe.
El futuro de la inteligencia artificial en la banca
Los modelos de lenguaje natural, como Mithos, poseen representaciones similares a espacios de trabajo que expresan los conceptos con los que el modelo está razonando. Estos espacios de trabajo ofrecen una ventana para leer y moldear el pensamiento de los modelos, lo que plantea importantes implicaciones prácticas para el futuro de la ciberseguridad en la banca.
A pesar de los avances en IA, el sector bancario todavía enfrenta importantes desafíos para garantizar la seguridad de sus sistemas y protegerse contra posibles riesgos sistémicos derivados de la inteligencia artificial.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!