El reconocimiento facial de Amazon confundió a 28 congresistas con delincuentes

Paloma Beamonte

La Unión Estadounidense por las Libertades Civiles puso a prueba la tecnología que Amazon vende a las autoridades y demostró el margen de error, poniendo de relieve la amenaza que representa para las personas de color.


ACLU

La organización sin fines de lucro Unión Estadounidense por las Libertades Civiles (ACLU) puso a prueba la tecnología de reconocimiento facial de Amazon, Rekognition. Los resultados no fueron alentadores y fortalecen el argumento de que su uso por parte de las autoridades estadounidenses es un riesgo para las personas de color en el país.

Según los resultados de la prueba realizada por ACLU, publicados este 28 de julio en el sitio oficial de la organización, Rekognition confundió a 28 miembros del Congreso de los Estados Unidos por posibles delincuentes. La tecnología los identificó como personas que habían sido arrestadas por cometer un crimen. Dichos congresistas son tanto demócratas como republicanos, así como hombres y mujeres de todas las edades.

“La mayoría de las falsas coincidencias de Rekognition fueron personas de color”

Para llevar a cabo la prueba, ACLU descargó 25.000 fotografías de una “fuente pública”. Después publicó las fotos oficiales de los 535 miembros del Congreso estadounidense a través de Rekognition. Al pedirle al sistema de reconocimiento facial de Amazon que relacionara las imágenes con cualquiera de las fotos que se le toman a las personas que son detenidas, identificó incorrectamente a los 28 congresistas en cuestión.

“Las falsas coincidencias fueron desproporcionadamente de personas de color”, señaló el abogado Jacob Snow de ACLU en el post publicado este jueves en el sitio web de la organización, y añadió:

“Casi el 40 por ciento de las coincidencias falsas de Rekognition en nuestra prueba fueron de personas de color, a pesar de que representan solo el 20 por ciento del Congreso.”

También detalló que el costo total por realizar la prueba fue de 12.33 dólares.

Los que están en contra

Como señala ACLU, el Congressional Black Caucus recientemente envió una carta a Jeff Bezos, CEO de Amazon, para expresar su preocupación por las “consecuencias negativas imprevistas” que el uso de Rekognition representa para los afroestadounidenses, inmigrantes indocumentados y manifestantes. Por su parte, los empleados de Amazon también han pedido a Bezos que la empresa no le venda su tecnología de reconocimiento facial al gobierno de los Estados Unidos.

“Cotejar a personas con fotos de arrestos no es un ejercicio hipotético. Amazon está comercializando agresivamente su tecnología de vigilancia facial, presumiendo que su servicio puede identificar hasta 100 caras en una sola imagen, rastrear personas en tiempo real a través de cámaras de vigilancia y escanear imágenes de cámaras corporales”, indicó Snow, y agregó:

“Estos peligros son los motivos por los cuales empleados de Amazon, accionistas, una coalición de casi 70 grupos de derechos civiles, más de 400 miembros de la comunidad académica y más de 150.000 miembros del público ya han hablado para exigir a Amazon que deje de proporcionar vigilancia facial al gobierno.”

Los que están a favor

Pese a las crecientes preocupaciones expresadas por los grupos mencionados anteriormente, el Servicio de Inmigración y Control de Aduanas de los Estados Unidos (ICE) es uno de los mayores clientes de Amazon en la compra del uso de Rekognition.

De hecho, el aeropuerto de Orlando ha decidido implementar el uso obligatorio del reconocimiento facial para todos los pasajeros de vuelos internacionales, ya sean extranjeros o estadounidenses. Adicionalmente, Aduanas y Protección Fronteriza (CBP) está probando esta tecnología en la frontera con México.

Por el contrario, el Departamento de Policía de Orlando dejó de usarlo tras finalizar su prueba piloto con el programa Rekognition. No obstante, todavía no decide si renovará su contrato con Amazon.

Fuente : El reconocimiento facial de Amazon confundió a 28 congresistas con delincuentes https://t.co/m2MiPvDpr9 @Hipertextual #Hipertextual

Anuncios