A partir de este domingo, las empresas que operan en el mercado europeo estarán obligadas a garantizar que los usuarios sean informados cuando interactúan con un chatbot. Asimismo, deberán identificar los deepfakes y permitir la auditoría de sus sistemas para detectar posibles riesgos. Estas medidas son parte de la nueva ley de inteligencia artificial de la Unión Europea, conocida como AI Act, que busca regular el uso de la IA según los riesgos asociados.
Implementación escalonada
La ley de IA de la UE se ha implementado de manera escalonada desde su introducción a mediados de 2024. Los usos considerados inaceptables, como la manipulación y el perfilado biométrico, fueron prohibidos en febrero de 2025. Posteriormente, en agosto de ese año, se introdujeron obligaciones para modelos de propósito general como ChatGPT, Claude y Gemini, que ahora deben adoptar medidas de transparencia y mitigar sus riesgos.
Cambios desde el 2 de agosto
A partir del 2 de agosto de 2026, nuevas normas entran en vigor. La UE exigirá a las empresas que desarrollan modelos de IA generativa etiquetar los contenidos como sintéticos. Toda empresa o administración que utilice chatbots deberá informar claramente a los usuarios que están interactuando con una IA. Esto se aplicará también a textos generados por IA, desde notas de prensa hasta comunicados para inversores.
“El etiquetado puede facilitar que los usuarios se detengan antes de creer o compartir un contenido”, explicó el emprendedor catalán Pau Garcia-Milà.
Obligaciones de transparencia
La ley también obliga a quienes difunden deepfakes a indicar claramente que los contenidos son generados por IA. Además, deberán informar sobre el uso de IA para detectar emociones o realizar categorizaciones biométricas. Esto es especialmente relevante para empresas de recursos humanos y campañas de marketing o propaganda política que utilizan imágenes generadas por IA.
- Etiquetas claras y visibles para contenidos sintéticos.
- Información obligatoria sobre el uso de IA en chatbots.
- Indicación obligatoria de deepfakes.
Impacto en las empresas
El nuevo marco regulatorio busca fomentar una adopción segura de la IA al mismo tiempo que garantiza el respeto por los derechos fundamentales. Según Garcia-Milà, la ley ofrece a las empresas la oportunidad de revisar sus procesos internos y formar a sus equipos para adaptarse a la nueva era tecnológica. Aunque podría requerir más trabajo y recursos al inicio, no debería frenar la innovación.
Poder para los reguladores
La ley otorga a las autoridades europeas más poder para garantizar su cumplimiento. La Comisión Europea podrá investigar, auditar y exigir información a las empresas que comercializan IA en la UE. Si se identifica una violación, las multas pueden alcanzar los 15 millones de euros o el 3% de la facturación global de la empresa. También se contempla el bloqueo de modelos que puedan ser peligrosos.
“Auditarlos no será sencillo”, añade Garcia-Milà. “Son modelos complejos y evolutivos que ofrecen poca transparencia”.
Protección a los ciudadanos
La normativa también proporciona herramientas para que los ciudadanos presenten reclamaciones por los efectos dañinos de la IA. Además, se garantizará la protección de los whistleblowers, empleados que decidan denunciar el uso indebido de sistemas comerciales de IA.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!