La policía de Milwaukee propone intercambiar millones de fotos policiales por acceso gratuito al reconocimiento facial

Desde su desarrollo hasta su aplicación, la industria del reconocimiento facial está plagada de prácticas turbias. Pero la situación siempre puede empeorar. En Milwaukee, la policía está considerando un acuerdo casi caricaturesco: intercambiar 2,5 millones de fotos policiales con una empresa privada a cambio de acceso gratuito a software de reconocimiento facial.

El viernes, el Milwaukee Journal Sentinel informó que la policía anunció el posible acuerdo en la reunión de las Comisiones de Bomberos y Policía de la ciudad la semana pasada. Según el medio, la policía de Milwaukee ya había obtenido acceso a tecnología de reconocimiento facial de agencias vecinas. Con este acuerdo, el departamento recibiría dos licencias de búsqueda gratuitas de Biometrica, una empresa de software que ya trabaja con agencias del orden público en Estados Unidos, a cambio de fotos policiales y registros carcelarios de décadas de antigüedad.

Aunque los planes de Biometrica para estas fotos policiales no están confirmados, es probable que las utilice para entrenar su software. Biometrica no respondió a la solicitud de comentarios de Gizmodo. Sin embargo, el reconocimiento facial se entrena regularmente con conjuntos de datos robados o prestados. Por ejemplo, Clearview AI extrajo millones de fotos de redes sociales para su base de datos, que luego vende a la policía, y PimEyes robó fotos de personas fallecidas para su algoritmo. El Instituto Nacional de Estándares y Tecnología (NIST) también mantiene su propia base de datos de fotos policiales , junto con imágenes de personas vulnerables para las pruebas de reconocimiento facial.

En un correo electrónico a Gizmodo, la policía de Milwaukee confirmó que aún no ha firmado ningún contrato. El departamento planea continuar la discusión en futuras reuniones municipales. Un representante escribió que «la transparencia con la comunidad a la que servimos supera con creces la urgencia de adquirir». Incluso sin un acuerdo firme, la propuesta por sí sola es una señal de alarma.

Las imprecisiones del reconocimiento facial para identificar a personas de piel oscura (especialmente si son mujeres o personas no binarias) están bien documentadas. Como era de esperar, esto ha provocado "múltiples arrestos injustos... debido a que la policía se basa en resultados incorrectos del reconocimiento facial, y estos son solo los casos conocidos", declaró David Gwidt, portavoz de la Unión Americana de Libertades Civiles de Wisconsin, a Gizmodo por correo electrónico. "En casi todos esos casos, la persona arrestada injustamente era negra".

Sin embargo, ese no es el único problema de este acuerdo. Hasta el momento, el acuerdo propuesto no menciona nada sobre informar a las personas, obtener su consentimiento ni permitirles optar por no participar. Como la mayoría de los estados, Wisconsin no cuenta con leyes específicas de privacidad biométrica. De las pocas existentes, solo Illinois amplía sus regulaciones más allá del uso comercial. La única legislación firme a la que se puede recurrir es la que regula las fotos policiales. Generalmente, son registros públicos, y Wisconsin es un estado de registros abiertos, por lo que los registros de arrestos, incluidas las fotos policiales, están disponibles para el público con pocas excepciones.

Aunque todo esto sugiere que la policía de Milwaukee no está legalmente obligada a notificar a las personas ni a obtener su consentimiento, la información sigue siendo imprecisa. Pasemos por alto cuántas personas simplemente no quieren que su rostro se utilice para entrenar a la tecnología de vigilancia. Las empresas de reconocimiento facial no son inmunes a problemas de seguridad como las filtraciones de datos. Según Forbes, las filtraciones biométricas pueden exponer a las personas al robo de identidad o utilizarse para eludir otros sistemas de seguridad. No es que la gente pueda simplemente cambiar su rostro. Lo que plantea la pregunta: ¿Debería la policía de Milwaukee poder asumir este riesgo en nombre de otra persona?

Estados Unidos tiene un historial comprobado de eludir la ética y explotar a las comunidades marginadas, especialmente en nombre del avance tecnológico. ¡Hola, Tuskegee! Este acuerdo simplemente continuaría ese legado en un contexto digital. Como Jeramie Scott, asesor principal de EPIC, declaró a Gizmodo por correo electrónico: «Lo irónico es que la policía de Milwaukee está considerando ofrecer millones de fotos policiales que probablemente sean desproporcionadamente de personas de color para entrenar una tecnología de vigilancia que probablemente se usará desproporcionadamente en personas de color». Además, Scott señaló que hacerlo «exacerbaría las desigualdades raciales históricas en el sistema de justicia penal».

Es improbable que se implemente pronto una regulación federal integral sobre el reconocimiento facial. Si bien Madison, la capital de Wisconsin, prohibió la tecnología en 2020, el estado tampoco la tiene, y Milwaukee tampoco regula la tecnología de vigilancia existente del departamento de policía. En opinión de Scott, «lo más seguro sería no seguir adelante con este acuerdo y que la policía de Milwaukee se abstuviera de usar la tecnología, sobre todo cuando no existen leyes que limiten estrictamente su uso y proporcionen garantías significativas».

La semana pasada, la ACLU local instó a Milwaukee a suspender por dos años cualquier nueva tecnología de vigilancia. También solicitó que la ciudad desarrollara regulaciones para las existentes, brindando oportunidades para que la comunidad opine. Aunque el departamento de policía de Milwaukee afirma que elaborará una política para garantizar que nadie sea arrestado únicamente por coincidencias de reconocimiento facial, no hay nada que lo obligue a rendir cuentas.