El uso de la inteligencia artificial (IA) en las empresas está incrementándose a un ritmo acelerado, mientras que la adaptación a las nuevas regulaciones avanza más lentamente. Expertos en derecho digital y cumplimiento normativo han advertido que muchas organizaciones desconocen las implicaciones legales del nuevo marco regulatorio europeo, que se encuentra en proceso de implementación.
La regulación europea y su impacto
El Reglamento Europeo de Inteligencia Artificial (AI Act), diseñado para regular esta tecnología de manera integral, está en marcha y exigirá a las empresas y administraciones que fortalezcan sus mecanismos de supervisión, transparencia y gestión de riesgos. Según datos de Eurostat, en 2024, aproximadamente el 11% de las empresas españolas ya utilizaban IA, cifra que sigue en aumento debido a la popularización de herramientas como ChatGPT y Microsoft Copilot.
“Muchas empresas creen que simplemente están utilizando una herramienta más, cuando en realidad ya pueden estar sujetas a obligaciones regulatorias”, afirman expertos jurídicos.
Desafíos más allá de las sanciones
El AI Act incluye sanciones significativas para los incumplimientos, pero los expertos señalan que el principal reto radica en aspectos más fundamentales. Las empresas deben identificar y gestionar adecuadamente qué sistemas de IA utilizan, para qué fines, qué datos procesan, y quién supervisa su funcionamiento.
- Identificar qué sistemas de IA se utilizan.
- Entender para qué se emplean estos sistemas.
- Determinar qué datos procesan.
- Establecer quién supervisa su funcionamiento.
- Gestionar proveedores involucrados en el desarrollo o mantenimiento.
Especialistas como Marina Villalonga, socia de Asensi Abogados, destacan que las posibles sanciones actúan como un elemento disuasorio, obligando a las empresas a profesionalizar su uso de la IA.
Retos para las pymes
El impacto de la regulación es una preocupación especial para las pequeñas y medianas empresas (pymes). Mientras que las grandes corporaciones ya han implementado políticas internas y procedimientos de supervisión, muchas pymes utilizan IA sin protocolos específicos ni evaluaciones de riesgo.
El reglamento afecta a todas las empresas que incorporan IA en su actividad diaria, especialmente en áreas donde la tecnología puede influir en decisiones sensibles sobre empleados, clientes o consumidores.
Sectores más afectados
Algunos sectores enfrentan mayores desafíos debido a la regulación:
- Recursos Humanos: Selección de personal, entrevistas automatizadas.
- Banca y Seguros: Análisis de riesgo, fraude.
- Salud y Educación: Evaluación y personalización de servicios.
- Administraciones Públicas: Infraestructuras críticas.
- Marketing y Atención al Cliente: Uso de chatbots, contenido generado por IA.
Giovanni Alessandrello, de BIP Iberia, enfatiza que gobernar la IA será crucial para obtener una ventaja competitiva. La IA debe ser vista como una capacidad empresarial que requiere supervisión y revisión continua.
“Aplicar IA sobre procesos ineficientes solo acelera las ineficiencias”, explica Alessandrello.
Importancia de la gobernanza
Guillermo Hidalgo de MAIO Legal destaca que el desafío no es solo tecnológico, sino también de establecer mecanismos de gobernanza y control. El uso incorrecto de IA puede aumentar el riesgo reputacional y las consecuencias jurídicas.
“Gobernar la IA no significa frenarla, sino crear las condiciones para usarla con trazabilidad, prudencia y control humano real”, afirma Hidalgo.
En respuesta a estos desafíos, consultoras y empresas tecnológicas están reforzando su capacidad en análisis predictivo y automatización, como es el caso de Lukkap con su inversión en Orakia para desarrollar soluciones de IA.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!