Comuns buscan restringir IA policial en Catalunya

El grupo parlamentario de los Comuns en Catalunya ha anunciado su intención de presentar una moción ante el Parlament con el objetivo de limitar el uso de la inteligencia artificial (IA) en el ámbito policial. Esta propuesta, que se debatirá en el pleno del próximo 16 de junio, busca incrementar la transparencia y reforzar la soberanía tecnológica de la región.

Propuestas para una Soberanía Tecnológica y Transparencia

La moción, titulada “sobre soberanía digital democrática, transparencia en la contratación tecnológica y oposición al tecnofeudalismo”, incluye una serie de medidas destinadas a mitigar los “riesgos democráticos” asociados al uso sin control de la IA. Estas iniciativas pretenden asegurar que la tecnología se utilice en beneficio de la democracia, los derechos humanos y el bien común, evitando su empleo para la vigilancia, la discriminación o la concentración de poder en manos de corporaciones.

Medidas Propuestas

• Creación de un registro público de la inteligencia artificial utilizada por la administración.
• Elaboración de un inventario y auditoría de todos los contratos públicos relacionados con tecnología.
• Implementación de una instrucción interna que prohíba el uso de sistemas de vigilancia predictiva o identificación biométrica en espacios públicos, en consonancia con la Ley Europea de IA.

Estas medidas se extienden también a los Mossos d’Esquadra, el cuerpo policial de Catalunya, para asegurar una aplicación ética y controlada de estas tecnologías.

Debate Parlamentario y Consideraciones Económicas

El debate sobre la moción tendrá lugar en el Parlament dentro de dos semanas, y su aprobación podría representar un avance significativo para los Comuns y el Govern liderado por Salvador Illa. Cabe destacar que el acuerdo presupuestario alcanzado entre ambos grupos en marzo contempla la creación de un fondo destinado a proyectos estratégicos de digitalización, como el desarrollo de un modelo ético de IA. Sin embargo, aún no se han especificado los detalles financieros ni de gestión de este fondo.

Intervenciones en el Parlament

Durante una reciente sesión parlamentaria, Andrés Berrio, diputado de los Comuns, instó al Govern a introducir “garantías y cláusulas éticas de contratación” para evitar la colaboración con empresas que no respeten los principios democráticos y los derechos humanos. Berrio subrayó la importancia de mantener un “control democrático” y reducir la dependencia de intereses privados.

“El Parlament de Catalunya tiene que defender que la innovación tecnológica esté al servicio de la democracia, de los derechos humanos, de la igualdad, de la paz y del bien común, y no de la vigilancia, la guerra, la discriminación o la concentración del poder corporativo”, expresó el documento de los Comuns.

Respuesta del Govern

El conseller de Presidència, Albert Dalmau, respondió afirmando que aunque existen pocos proveedores tecnológicos, lo crucial es evitar “dependencias estructurales” y mantener la capacidad de auditoría. Dalmau destacó que el modelo del Govern se alinea con los estándares europeos y enfatizó la importancia de la transparencia en el uso de algoritmos, asegurando que la IA debe complementar funciones administrativas, no sustituir a los trabajadores.