La organización Amnistía Internacional ha hecho un llamado al Parlamento Europeo para que utilice una votación plenaria en su posición final sobre la Ley de Inteligencia Artificial de la Unión Europea (Ley IA) con el fin de prohibir los sistemas de perfiles racistas y discriminatorios dirigidos a migrantes y otros grupos marginados.

En la investigación llevada a cabo por Amnistía Internacional, se muestra cómo la tecnología invasiva de reconocimiento facial está siendo utilizada para la aplicación de la ley racista y discriminatoria contra personas racializadas, incluyendo prácticas de detención y registro que afectan desproporcionalmente a las personas negras y latinas. También se utiliza para prevenir y restringir el movimiento de migrantes y solicitantes de asilo.

La organización pide que se prohíba el uso de tecnologías de vigilancia masiva, como las herramientas de identificación biométrica retrospectiva y remota en vivo, en la Ley IA. Mher Hakobyan, asesor de defensa de Regulación de la IA en Amnistía Internacional, señala que existe el riesgo de que el Parlamento Europeo pueda anular las protecciones de los derechos humanos alcanzadas anteriormente, abriendo la puerta al uso de tecnologías que están en conflicto directo con el derecho internacional de los derechos humanos.

La organización también destaca que los estados miembros de la Unión Europea han recurrido cada vez más al uso de tecnologías opacas y hostiles para facilitar el abuso contra migrantes, refugiados y solicitantes de asilo en sus fronteras. Por lo tanto, el Parlamento Europeo debe prohibir la elaboración de perfiles racistas y los sistemas de evaluación de riesgos, que etiquetan a los migrantes y solicitantes de asilo como amenazas, y tecnologías de pronóstico para predecir los movimientos fronterizos y negar a las personas el derecho de asilo.

Además, la organización considera que la Ley IA debe prohibir la exportación de cualquier sistema cuyo uso no esté permitido en la UE, como el reconocimiento facial y otras tecnologías de vigilancia. En su investigación, Amnistía Internacional ha identificado que las cámaras fabricadas por la empresa holandesa TKH Security se utilizan en espacios públicos y se adjuntan a la infraestructura policial en Jerusalén Este ocupada, para afianzar el control del gobierno israelí sobre los palestinos y el sistema de apartheid de Israel contra los palestinos.

El Parlamento Europeo tiene la responsabilidad de defender los derechos humanos y cualquier cosa que no sea una prohibición total de las tecnologías utilizadas para la vigilancia masiva, la vigilancia policial racista y la elaboración de perfiles sería un incumplimiento de ese deber. Los legisladores de la UE también deben asegurarse de que las tecnologías prohibidas dentro de la UE no se exporten para cometer abusos contra los derechos humanos en otros lugares. Esta legislación debe proteger y promover los derechos humanos de todas las personas, no solo de las personas en Europa.

La Comisión Europea propuso la legislación que rige el uso de la Inteligencia Artificial el 21 de abril de 2021. El Consejo de la UE, compuesto por los gobiernos nacionales de la UE, adoptó su posición en diciembre de 2022. El objetivo del Parlamento Europeo es tener una votación final para formar su posición oficial el 14 de junio, después del cual las tres instituciones deberán acordar un texto común para el Reglamento. La Ley IA puede ayudar a prevenir y reducir los daños causados por las nuevas tecnologías en Europa, pero es fundamental que la UE no contribuya a las violaciones de los derechos humanos mediante la exportación de tecnologías draconianas más allá de sus territorios.