En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un criminal. El partido salió mal y el Sr. Williams presentó una demanda.
El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso del Departamento de Policía de Detroit de hacerlo mejor. La ciudad ha adoptado nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representó a Williams, debería ser el nuevo estándar nacional.
“Esperamos que esto mueva la aguja en la dirección correcta”, dijo Williams.
Williams fue la primera persona conocida arrestada injustamente debido a un reconocimiento facial incorrecto. Pero no fue el último. La policía de Detroit arrestó al menos a dos personas más luego de que las búsquedas de reconocimiento facial salieran mal, incluida una mujer acusada de robo de auto cuando estaba embarazada de ocho meses.
Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara una cara desconocida con aquellas que aparecen en una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan fotografías tomadas en sitios de redes sociales y en la Internet pública.
Una de las nuevas reglas más notables adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo en una fotografía policial a menos que haya otra evidencia que las vincule con el crimen.
“El sistema de ‘tomar una foto, alinearla’ terminará”, dijo Phil Mayor, abogado de la ACLU de Michigan. “Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el usuario indebido más documentado de la tecnología de reconocimiento facial a ser un líder nacional en contar con salvaguardias en su uso”.
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, prohibieron temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, jefe de tecnología de la información de la unidad de inteligencia criminal de Detroit, dijo que el departamento de policía está “muy ansioso por utilizar la tecnología de manera significativa para la seguridad pública”. Detroit, dijo, tiene “la política más fuerte de la nación ahora”.
como va mal
Williams fue arrestado después de un delito en 2018. Un hombre robó cinco relojes de una boutique en el centro de Detroit mientras era captado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre comparando fotografías de licencias de conducir y fotografías policiales arrojó 243 fotografías, clasificadas en orden de seguridad del sistema de que era la misma persona en el video de vigilancia, según los documentos revelados como parte de la demanda del Sr. Williams. Una foto antigua del permiso de conducir del señor Williams ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda consideró que era la mejor coincidencia y envió un informe a un detective de la policía de Detroit.
El detective incluyó la foto del Sr. Williams en un “conjunto de seis fotografías” (fotos de seis personas en un estante) que mostró al contratista de seguridad que había proporcionado el video de vigilancia de la tienda. Estuvo de acuerdo en que el señor Williams era la persona más cercana al hombre de la boutique, y esto dio lugar a la orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
Demandó a Detroit en 2021 con la esperanza de imponer una prohibición a la tecnología para que otros no sufrieran la misma suerte que él. Dijo que se sorprendió el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de un mal reconocimiento facial. La policía arrestó a la señora Woodruff mientras preparaba a sus hijos para la escuela. También demandó a la ciudad; el caso está en curso.
“Es muy peligroso”, dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo ningún beneficio positivo en ello”.
las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial condujo a un arresto injusto. (Los otros ocurrieron en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían mayores abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, atribuyó los arrestos injustos a un “error humano”. Sus oficiales, dijo, dependían demasiado de las pistas producidas por la tecnología. Fue su criterio el que falló, no el de la máquina.
La nueva política, que entrará en vigor este mes, debería ayudar con esto. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en el reconocimiento facial.
“Tiene que haber algún tipo de evidencia confirmatoria secundaria que no esté relacionada antes de que haya una justificación suficiente para ir a la capacitación”, dijo. Sr. Lamoreaux de la Unidad de Inteligencia Criminal de Detroit. La policía necesitaría información de ubicación del teléfono de una persona, por ejemplo, o evidencia de ADN, algo más que un parecido físico.
El departamento también está cambiando la forma en que realiza capacitaciones en fotografía. Se trata de adoptar lo que se llama una secuencia doble ciego, que se considera una forma más justa de identificar a alguien. En lugar de presentarle un “six-pack” a un testigo, un oficial, que no sabe quién es el principal sospechoso, presenta las fotos una por una. Y el entrenamiento incluye una foto de la persona diferente a la que surgió del sistema de reconocimiento facial.
La policía también tendrá que revelar si se realizó el registro facial, así como la calidad de la imagen del rostro buscado: ¿qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? – porque es menos probable que una imagen de mala calidad produzca resultados fiables. También tendrán que revelar la edad de la foto que surgió del sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidieran.
Franklin Hayes, subjefe de policía de Detroit, dijo que confía en que las nuevas prácticas evitarán futuras identificaciones erróneas.
“Todavía hay algunas cosas que podrían pasarse por alto, por ejemplo, los gemelos idénticos”, dijo Hayes. “Nunca podremos decir nunca, pero creemos que esta es nuestra mejor política hasta ahora”.
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y que otras agencias deberían adoptarla.
“No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que la delincuencia sea rampante”, dijo Ross.
¿Cuánto ayuda?
La identificación de testigos presenciales es una tarea difícil y la policía ha adoptado las cámaras y el reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
El año pasado, el Jefe White dijo a los legisladores locales que la tecnología de reconocimiento facial había ayudado a “sacar de las calles a 16 asesinos”. Cuando se les pidió información adicional, los funcionarios del Departamento de Policía no proporcionaron detalles sobre estos casos.
En cambio, para demostrar los éxitos del departamento con esta tecnología, los agentes de policía reprodujeron un vídeo de vigilancia de un hombre rociando combustible dentro de una gasolinera y prendiéndole fuego. Dijeron que había sido identificado con tecnología de reconocimiento facial y arrestado esa noche. Posteriormente se declaró culpable.
El Departamento de Policía de Detroit es uno de los pocos que controla las búsquedas de reconocimiento facial y presenta informes semanales sobre su uso a una junta de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas por año, y aproximadamente la mitad de esas búsquedas arrojaron coincidencias potenciales.
El departamento solo realiza un seguimiento de la frecuencia con la que obtiene una pista, no de si se completa. Pero como parte del acuerdo con Williams, que también recibió 300.000 dólares, según un portavoz de la policía, debe realizar una revisión de sus búsquedas de reconocimiento facial que se remontan a cuando empezó a utilizar la tecnología en 2017. Si identifica a otros en los casos en que Si se arresta a personas con poca o ninguna evidencia que la respalde, aparte de una coincidencia facial, el departamento debe alertar al fiscal correspondiente.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecen prometedoras, pero sigue siendo escéptica.
“Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes”, afirmó. “Si toda esta tecnología de vigilancia realmente hiciera lo que dice que haría, Detroit sería una de las ciudades más seguras del país”.
Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de vigilancia que respaldó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía.
“La tecnología aún no está lista”, dijo Burton. “Un arresto falso es demasiado, y tener tres en Detroit debería sonar como una alarma para detenerlo”.