El Parlamento Europeo pide prohibir el uso de la inteligencia artificial por la Policía para la vigilancia masiva #favoryto

En una resolución del Parlamento Europeo (PE) adoptada con 377 votos a favor, 248 en contra y 62 abstenciones, los eurodiputados advierten de los sesgos en que incurren los algoritmos de inteligencia artificial y enfatizan la necesidad de incorporar supervisión humana y controles jurídicos para evitar discriminación, en particular cuando se utiliza la IA en los controles fronterizos.

“Las decisiones finales siempre deben adoptarlas personas”, recalcan los eurodiputados, y las personas sujetas a este tipo de herramientas “han de poder apelar sus decisiones”.

La resolución hace hincapié en que “muchas tecnologías de identificación basadas en algoritmos cometen más errores al identificar y clasificar a personas racializadas o pertenecientes a determinadas comunidades étnicas, a personas LGBTI, a niños y personas mayores, y también a mujeres”.

Para “garantizar el respeto de los derechos fundamentales”, los eurodiputados piden que los algoritmos sean “transparentes, rastreables y dejen huella documental”. Siempre que sea posible, las autoridades deberán utilizar programas de código abierto para contribuir también a la transparencia.

Asimismo, “en aras de la privacidad y la dignidad humana”, los eurodiputados instan a prohibir de manera permanente los sistemas de reconocimiento automático en espacios públicos, y dejan claro que “los ciudadanos solo deben ser sometidos a vigilancia si son sospechosos de haber cometido un delito”. Las bases de datos privadas de reconocimiento facial -como Clearview- y las técnicas predictivas basadas en datos de comportamiento deben quedar también prohibidas, agrega el PE.

Los eurodiputados rechazan, asimismo, los sistemas de puntuación social de la ciudadanía a los que se otorga una clasificación en función de su comportamiento o personalidad.

El Parlamento también está preocupado por la utilización de datos biométricos para la identificación a distancia de personas. El texto alude en concreto al proyecto iBorderCtrl, “un sistema inteligente de detección de mentiras” que se ha usado en pruebas en Hungría, Letonia y Grecia en el marco del control de entradas en Europa.

“Pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial en el ámbito policial, pues la tecnología se ha demostrado ineficaz y a menudo discriminatoria. Estamos en contra de las técnicas de predicción del comportamiento basadas en inteligencia artificial, así como del tratamiento de datos biométricos para la vigilancia masiva”, afirma el diputado del PE Petar Vitanov.

La resolución ha contado con el apoyo de la izquierda, los socialdemócratas, los verdes y los liberales, mientras que los populares y el grupo Identidad y Democracia -que aglutina a partidos de extrema derecha europeos- se opusieron.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.