Login
Diecisiete grupos de defensa de los derechos civiles lanzaron la semana pasada una campaña pública para prohibir el uso de la tecnología de reconocimiento facial en edificios residenciales y lugares públicos de Nueva York, como tiendas y estadios.
Los grupos instan a los concejales a aprobar resoluciones que prohíban a “cualquier lugar o proveedor de alojamiento público” y a cualquier arrendador el uso de tecnología de reconocimiento biométrico.
En su carta de campaña, los grupos afirman:
“La tecnología de reconocimiento biométrico, incluida la tecnología de reconocimiento facial (“facial recognition technology”, FRT por sus siglas en inglés), es sesgada, propensa a errores y perjudicial para las comunidades marginadas. No tiene cabida en los negocios y residencias de la ciudad de Nueva York”.
“Ban the Scan” es una iniciativa dirigida por el “Surveillance Technology Oversight Project”, Amnistía Internacional, “New York Civil Liberties Union” (NCLU), “The Legal Aid Society”, “Surveillance Resistance Lab”, “Fight for the Future” y el “Center On Race, Inequality, and the Law” de la Facultad de Derecho de la NYU.
A fecha de hoy, otros 15 grupos se han sumado como firmantes de la campaña.
La campaña llega poco después de que el alcalde de Nueva York, Eric Adams, anunciara el 16 de octubre un plan para toda la ciudad con el fin de adoptar un uso “responsable” de las herramientas de inteligencia artificial (IA).
Los grupos afirmaron que la prohibición del reconocimiento biométrico -incluido el facial- es “un primer paso esencial hacia cualquier plan de IA “responsable” en la ciudad de Nueva York.”
Según los expertos en privacidad, entre ellos Greg Glaser, experto en privacidad digital y abogado litigante del programa Radiación Electromagnética e Inalámbrica de “Children’s Health Defense” (CHD), la tecnología de reconocimiento facial conlleva al menos cuatro riesgos.
Glaser dijo a “The Defender” que muchas personas tienen una “aversión natural” a que sus rostros sean escaneados sistemáticamente por un software de IA que analiza los datos a veces de “formas no reveladas.”
Glaser y otros expertos ofrecieron estas cuatro advertencias:
1. El reconocimiento facial tiene “prejuicios raciales” y es “directamente peligroso”.
“Al menos en las primeras fases de esta tecnología de reconocimiento facial por IA, el riesgo de identificación errónea será significativo, especialmente debido a la gran cantidad de datos que ahora se pueden analizar”, afirma Glaser. “Por eso a las organizaciones de defensa de la privacidad les preocupa especialmente si los escáneres faciales identifican erróneamente a las personas, incluso en función de factores como la raza”.
Daniel Schwarz, estratega principal de privacidad y tecnología de NCLU, afirmó: “La tecnología de reconocimiento facial es arriesgada, poco fiable y racialmente sesgada, y en manos de las fuerzas de seguridad, es francamente peligrosa”.
“Hemos visto los perjuicios de la tecnología de reconocimiento facial, que amplifica las actuaciones policiales racistas y conduce a detenciones injustas”, afirmó Schwartz.
Kashmir Hill, periodista de privacidad y tecnología de “The New York Times” que vive en Nueva York, declaró recientemente a NPR que “del puñado de personas que sabemos que han sido detenidas injustamente por el delito de parecerse a otra persona, en todos los casos, la persona ha sido negra.”
Schwartz añadió:
“Ya sea en sus hogares, frecuentando negocios locales o accediendo a la atención sanitaria, los neoyorquinos no quieren vivir en un mundo en el que la vigilancia biométrica controle constantemente todos sus movimientos: estamos orgullosos de luchar junto a nuestros socios de la coalición para que la ciudad de Nueva York prohíba el escáner de una vez por todas.”
2. El reconocimiento facial permite a las empresas rechazar a personas en función de su lugar de trabajo
El 10 de mayo, Hill relató en un artículo publicado en el Times su experiencia de llevar a Tia García, abogada especializada en lesiones personales, al Madison Square Garden para ver si García “podía entrar en el edificio”.
Al Madison Square Garden lo llaman “el estadio más famoso del mundo“. Su propietario, James Dolan -que también es dueño del “Radio City Music Hall” y del “Beacon Theatre”- decidió que “quería utilizar la tecnología para mantener alejados a sus enemigos, concretamente a los abogados que trabajaban para bufetes que le habían demandado”, explicó Hill.
“Madison Square Garden” ha eliminado las fotos de los abogados y ha creado una prohibición de caras “para que, cuando intenten ir a un partido de los Knicks o de los Rangers o a un concierto de Mariah Carey, sean rechazados en la puerta. Les dicen: ‘Lo siento, no eres bienvenido aquí hasta que retires tu demanda contra nosotros'”.
García es “uno de los miles de abogados” incluidos en la lista de prohibidos, dijo Hill. “Mientras estábamos en la cola, la tecnología de reconocimiento facial la identificó”.
La dirección negó el acceso a García y la obligó a marcharse, a pesar de que no estaba directamente implicada en la demanda de su empresa contra el estadio.
“Es un despliegue realmente increíble de esta tecnología y muestra lo escalofriantes que podrían ser los usos”, dijo Hill, “que te puedan, ya sabes, rechazar de una empresa por el lugar donde trabajas”.
Hill añadió: “Podría imaginarme un futuro en el que una empresa te rechace porque has escrito una mala crítica en Yelp o no les gustan tus inclinaciones políticas”.
3. Sus datos biométricos pueden ser vendidos o pirateados
El nuevo libro de Hill, “Tu cara nos pertenece: La búsqueda de una startup secreta para acabar con la privacidad tal y como la conocemos” (“Your Face Belongs to Us: A Secretive Startup’s Quest to End Privacy as We Know It”) trata sobre Clearview AI, una empresa emergente (“startup”) que vende software de reconocimiento facial y acceso a su amplia base de datos biométricos a miles de departamentos de policía estadounidenses.
‘Clearview AI’ también tiene contratos con el Departamento de Seguridad Nacional (DHS) y el FBI, y ha recibido financiación del Ejército y las Fuerzas Aéreas de Estados Unidos, según Hill.
“‘Clearview AI’ ha acordado no vender su base de datos a empresas y venderla solo a agencias policiales. Pero hay otras tecnologías de reconocimiento facial ahí fuera”. Hill dijo, refiriéndose a cómo el Madison Square Garden pudo trabajar con otro proveedor de tecnología de reconocimiento facial para montar su prohibición facial.
Glaser dijo que muchos grupos de derechos civiles preocupados quieren saber si “se llevarán a cabo auditorías externas en Nueva York para garantizar que la información de identificación personal se destruye en lugar de conservarse indefinidamente”.
“Esto se debe a que”, dijo, “una vez que los datos se capturan en una base de datos no revelada, pueden ser utilizados para otros fines gubernamentales y comerciales, y pueden ser hackeados”.
Glaser señaló que una base de datos del DHS con datos biométricos de viajeros fue pirateada. “Existe un mercado negro de información sobre perfiles, y esos mercados crecerán a medida que crezca la IA porque se amplía el número de posibles usos ilícitos”.
Hill dijo que en Europa los ciudadanos pueden solicitar que se elimine su información biométrica (es decir, fotos) de bases de datos como la que utiliza ‘Clearview AI’, pero en Estados Unidos la mayoría de los estados no tienen leyes de privacidad digital de este tipo.
Sólo cuatro estados -California, Colorado, Virginia y Connecticut- ofrecen este tipo de protección de la privacidad digital, según Hill. Illinois también cuenta ahora con una ley especial que permite a los ciudadanos eliminar sus datos faciales de los registros digitales.
4. La tecnología de reconocimiento facial es un paso hacia una “distopía” policial
Según la descripción del nuevo libro de Hill, la tecnología de reconocimiento facial lleva décadas “haciéndose silenciosamente más poderosa“. … Sin regulación, podría ampliar el alcance de la vigilancia policial, como ha ocurrido en China y Rusia, hasta un nivel aterrador y distópico”.
Glaser estuvo de acuerdo.
Calificó de “distópico” el plan de la Administración de Seguridad en el Transporte de poner a prueba la tecnología de reconocimiento facial en 25 aeropuertos de Estados Unidos.
Albert Fox Cahn, fundador del Proyecto de Supervisión de la Tecnología de Vigilancia, declaró en diciembre de 2022 a “The Washington Post” algo parecido:
“Lo que vemos a menudo con estos programas biométricos es que sólo son opcionales en las fases introductorias, y con el tiempo vemos que se estandarizan y nacionalizan y acaban siendo obligatorios…
“No hay lugar más coercitivo para pedir el consentimiento de la gente que un aeropuerto”.
Glaser señaló que la adopción de este tipo de tecnologías sitúa a comunidades como Nueva York y a los gobiernos en la “pendiente resbaladiza” hacia la adopción de una filosofía transhumanista que valora la identificación digital de una persona tanto o más que su presencia física.
En un mundo así, dijo:
“Con el tiempo, tu identificación biométrica estará tan avanzada e integrada en tus cuentas, que la sociedad empezará a reconocer tu identificación biométrica como tu yo superior, lo que significa que eres menos real que la versión informática de ti”.