Un caso para prohibir el reconocimiento facial

Una investigadora de Google explica por qué cree que la policía no debería usar software de reconocimiento facial.

​

El software de reconocimiento facial podría ser la tecnología más divisiva del mundo.

Las agencias de la ley y algunas compañías lo usan para identificar sospechosos y víctimas comparando fotos y videos con bases de datos como registros de licencias de conducir. Pero los grupos de libertades civiles dicen que el reconocimiento facial contribuye a la erosión de la privacidad, refuerza los prejuicios y es propenso al mal uso.

San Francisco y un importante proveedor de cámaras corporales de la policía han prohibido su uso por parte de las fuerzas del orden, e IBM el lunes dio marcha atrás en su trabajo en esta área. Algunas propuestas para reestructurar los departamentos de policía piden restricciones más estrictas en el uso del reconocimiento facial.

Timnit Gebru, líder del equipo de inteligencia artificial ética de Google, explicó por qué cree que el reconocimiento facial es demasiado peligroso para ser usado ahora mismo con fines policiales. Estos son extractos editados de nuestra discusión virtual en el Foro de Mujeres para la Economía y la Sociedad el lunes.

Ovide: ¿Cuál es su preocupación sobre el reconocimiento facial?

Gebru: Colaboré con Joy Buolamwini en el M.I.T. Media Lab, quien dirigió un análisis que encontró disparidades muy altas en las tasas de error [en los sistemas de identificación facial], especialmente entre los hombres de piel clara y las mujeres de piel oscura. En las pruebas de detección de melanomas, imagina que hay una tecnología de detección que no funciona para las personas con piel más oscura.

También me di cuenta de que incluso el reconocimiento facial perfecto puede ser mal utilizado. Soy una mujer negra que vive en EE.UU. que ha lidiado con las graves consecuencias del racismo. El reconocimiento facial está siendo usado en contra de la comunidad negra. La policía de Baltimore durante las protestas de Freddie Gray utilizó el reconocimiento facial para identificar a los manifestantes, vinculando las imágenes a los perfiles de los medios sociales.

Pero un oficial de policía o un testigo ocular también podía mirar las imágenes de vigilancia y las fotos de la ficha policial e identificar erróneamente a alguien como Jim Smith. ¿Es el software más preciso o menos parcial que los humanos?

Eso depende. Nuestro análisis mostró que para muchos, el reconocimiento facial era mucho menos preciso que el de los humanos.

El otro problema es algo llamado sesgo de automatización. Si tu intuición te dice que una imagen no se parece a Smith, pero el modelo de computadora te dice que es él con un 99 por ciento de precisión, es más probable que se crea ese modelo.

También hay un desequilibrio de poder. El reconocimiento facial puede ser completamente exacto, pero aún así puede ser usado de una manera que es perjudicial para ciertos grupos de personas.

La combinación de la excesiva confianza en la tecnología, el mal uso y la falta de transparencia – no sabemos cuán extendido está el uso de este software – es peligroso.

Un fabricante de cámaras corporales de la policía discutió recientemente el uso de la inteligencia artificial para analizar las imágenes de video y posiblemente señalar los incidentes de aplicación de la ley para su revisión. ¿Qué opina sobre el uso de la tecnología de esa manera?

Mi reacción visceral es que mucha gente en el campo de la tecnología tiene la necesidad de saltar a una solución tecnológica sin escuchar a la gente que ha estado trabajando con los líderes de la comunidad, la policía y otros proponiendo soluciones para reformar la policía.

¿Ve alguna manera de usar el reconocimiento facial para la aplicación de la ley y la seguridad de manera responsable?

Debería prohibirse por el momento. No sé sobre el futuro.

Fuente: A Case for Banning Facial Recognition