El primer gran desafío legal al uso de la vigilancia por reconocimiento facial automático (AFR) por parte de la policía británica comienza esta semana.
El grupo de derechos humanos Liberty presentó una demanda contra la Policía de Gales del Sur, la fuerza británica que fue pionera en AFR para mapear rostros y compararlos con una base de datos en tiempo real.
Los partidarios dicen que la tecnología de reconocimiento facial «aumentará la seguridad de los ciudadanos y podría ayudar a la policía a atrapar criminales y terroristas potenciales», informa el Daily Telegraph. Pero los críticos lo han etiquetado como «orwelliano» y dicen que la policía no ha sido «transparente» sobre cómo usará los datos.
¿De qué se trata?
El caso fue presentado por Ed Bridges, un empleado de la Universidad de Cardiff y ex concejal de Lib Dem, quien dice que la policía escaneó su rostro dos veces mientras estaba de compras en la capital galesa.
Antes de la audiencia del Tribunal Administrativo de Cardiff, Bridges dijo: «La policía debería protegernos y hacernos sentir seguros, pero la tecnología es intimidante e intrusiva».
La tecnología AFR “es una herramienta policial mucho más poderosa que las cámaras de CCTV tradicionales, ya que las cámaras adquieren un mapa biométrico, creando un código numérico de los rostros de cada persona que pasa frente a la cámara”, señala la BBC.
El código numérico tiene propiedades similares al ADN o las huellas dactilares pero, a diferencia de estos dos marcadores, «no existe una regulación específica que regule cómo la policía utiliza el reconocimiento facial o gestiona los datos que recopila», informa el emisor.
Liberty dice que incluso si hubiera regulaciones, la tecnología es demasiado intrusiva y no debería usarse para la policía.
Pero Chris Phillips, exjefe de la Oficina Nacional de Seguridad Contra el Terrorismo, argumenta: «Si hay cientos de personas caminando por las calles, deberían estar en la cárcel porque hay órdenes de arresto pendientes o delincuentes peligrosos que intentan dañar a otros en lugares públicos». «El uso adecuado de AFR juega un papel vital en la policía. La policía necesita orientación para garantizar que esta herramienta vital contra el crimen se use legalmente».
¿Cuáles son los problemas con AFR?
El reconocimiento facial ha generado críticas de investigadores y defensores de la privacidad en todo el mundo, incluidos informes de que las autoridades han utilizado la tecnología para rastrear a millones de musulmanes en el noroeste de China, así como temores de fallas de software relacionadas con la raza y el género.
Y como señala GeekWire, «el rostro es una parte muy importante de la identidad pública de una persona», lo que plantea problemas de privacidad.
A principios de este mes, San Francisco se convirtió en la primera ciudad de los Estados Unidos en prohibir el uso de la tecnología con fines policiales, debido a preocupaciones sobre su confiabilidad y violaciones de las libertades de los ciudadanos. En particular, el consejo de la ciudad destacó la preocupación de que la tecnología de reconocimiento facial pueda mostrar prejuicios raciales.
Se ha demostrado repetidamente que el software comercial de reconocimiento facial es «menos preciso» en personas con piel más oscura, y los defensores de los derechos civiles dicen que el escaneo facial se puede usar de formas «perturbadoramente específicas», informa Gizmodo.
Un ejemplo reciente involucró a Amazon y su nueva tecnología Rekognition. La herramienta de reconocimiento facial, que Amazon vende a los desarrolladores web, identificó erróneamente a 28 miembros del Congreso de los Estados Unidos, de los cuales un número desproporcionado eran personas de color, como sospechosos de la policía por fotografías policiales, informa Reuters.
¿Por qué ocurren estos problemas?
La razón de los falsos positivos raciales parece ser «no que las máquinas estén inherentemente enfrentadas a nadie, sino que las personas que, en esencia, enseñan programas para identificar rasgos no les proporcionan una muestra diversa en primer lugar», dice EE.UU. hoy. .
Un informe reciente sobre tecnología elaborado por expertos de la Facultad de Derecho de Georgetown en Washington DC advierte: «No importa cuán buena sea la máquina si todavía se alimenta con cifras incorrectas, es probable que surjan respuestas incorrectas».
Gizmodo dice que los investigadores del Instituto Tecnológico de Massachusetts (MIT) creen que resolver el problema requerirá «límites estrictos» sobre cómo y cuándo se puede usar el escaneo facial para proteger a las comunidades vulnerables. Incluso entonces, advierten, el reconocimiento facial será «imposible sin abordar el racismo en el sistema de justicia penal en el que inevitablemente se utilizará».
En el Reino Unido, la Policía Metropolitana está decidiendo si implementar la tecnología a mayor escala después de un período de prueba de dos años. Sin embargo, la BBC informa que «la policía había perdido al menos tres oportunidades de evaluar qué tan bien los sistemas trataban la etnicidad en cinco años».
¿Mejorará la tecnología?
Si bien aún no es perfecto, las tasas de precisión alcanzan el 99,98 por ciento gracias al aprendizaje automático y las redes neuronales mejoradas, según Pam Dixon, directora ejecutiva del Foro Mundial de Privacidad. «Este es un progreso tremendo», dijo a USA Today.
Y el reconocimiento facial puede ser solo el comienzo. «En realidad, hay muchas otras cosas que tienen propiedades similares al reconocimiento facial que son igualmente perniciosas, pero no generan la misma reacción visceral», dijo a GeekWire el denunciante de la Universidad de Cornell, Solon Barocas.
Margaret Mitchell, científica sénior de Google Research and Machine Intelligence, agregó que estos podrían incluir el análisis de la forma de caminar de una persona o la cadencia del habla de una persona. «El aprendizaje automático descubrirá muchas formas nuevas», dijo Barocas.
