El reconocimiento facial de Amazon etiqueta erróneamente a 26 legisladores de California como criminales



A medida que las agencias gubernamentales continúan presionando para el despliegue de sistemas de reconocimiento facial, no necesita mirar lejos para ver por qué esas son malas noticias. Para ilustrar el punto, la ACLU realizó una prueba del software Rekognition de Amazon (tecnología de reconocimiento facial que actualmente utiliza la policía de los EE. UU.) En la que identificó incorrectamente a 26 legisladores de California como coincidencias en una base de datos criminal.

Nos detendremos mientras te ríes de los "políticos son "bromas de criminales" corriendo por tu cabeza.

Es la segunda vez que la ACLU ejecuta este tipo de prueba. En el primero, una prueba realizada el año pasado, Rekognition fue extremadamente inexacta, produciendo resultados incorrectos y sesgados racialmente al intentar emparejar a los miembros del Congreso.

Detallada hoy, la última prueba de ACLU ejecutó 120 imágenes de legisladores de California contra una base de datos de 25,000 fotos policiales. El software Rekognition de Amazon produjo falsos positivos aproximadamente el 20 por ciento del tiempo.

Phil Ting, miembro de la Asamblea de San Francisco, y una de las coincidencias incorrectas, utilizó los resultados para obtener apoyo para un proyecto de ley que prohibiría el uso de la tecnología en las cámaras de la policía. "Queríamos ejecutar esto como una demostración de cómo este software no está listo para el horario estelar", dijo Ting durante una conferencia de prensa. "Si bien podemos reírnos de ello como legisladores, no es motivo de risa para un individuo que intenta conseguir un trabajo, si usted es un individuo que intenta obtener un hogar".

Un portavoz de Amazon dijo TNW:

La ACLU una vez más está haciendo mal uso y tergiversando a sabiendas Amazon Rekognition para ser noticia. Como hemos dicho muchas veces en el pasado, cuando se usa con el umbral de confianza recomendado del 99% y como parte de una decisión impulsada por el ser humano, la tecnología de reconocimiento facial se puede usar para una larga lista de propósitos beneficiosos, desde ayudar en la identificación de delincuentes para ayudar a encontrar niños desaparecidos para inhibir la trata de personas. Continuamos abogando por la legislación federal de tecnología de reconocimiento facial para garantizar un uso responsable, y hemos compartido nuestras sugerencias específicas para esto, tanto en privado como con los responsables políticos y en nuestro blog.

El abogado de la ACLU, Matt Cagle, quien trabajó con UC Berkeley para verificar de forma independiente los resultados argumentaron en contra de las críticas. En un comentario para Gizmodo, Cagle dijo que la ACLU no usó un umbral de confianza del 99 por ciento porque se quedó con la configuración predeterminada en el software de Amazon, que es un puntaje de confianza del 80 por ciento.

Amazon refutó el reclamo y señaló una publicación de blog en la que señala que Rekognition no debe usarse con un nivel de confianza inferior al 99 por ciento. Por supuesto, esto solo lleva a más preguntas. Específicamente, ¿por qué no es el 99 por ciento la configuración predeterminada del software?