Tres hacktivistas intentaron encontrar una solución alternativa al software de verificación de edad de Discord. Sin embargo, descubrieron que su interfaz estaba expuesta a la internet abierta.
Hace diez días, la aplicación de chat social Discord anunció que lanzará una configuración «predeterminada para adolescentes» para su audiencia global. Como parte de esta actualización, todos los usuarios, tanto nuevos como existentes, tendrán una experiencia adaptada a adolescentes, con configuraciones de comunicación actualizadas, acceso restringido a espacios restringidos por edad y un filtro de contenido que preserva la privacidad y las conexiones significativas, según la plataforma.
Esto, por supuesto, significa que para usar Discord como estás acostumbrado, tendrás que dejar que escanee tu rostro, y la internet no quedó feliz. Muchas comunidades anunciaron rápidamente su migración a otras plataformas. Otras, como la investigadora de seguridad Celeste, conocida como vmfunc, estaban convencidos de que habría una solución alternativa.
Junto con otros dos investigadores, se propusieron investigar Persona, la startup con sede en San Francisco que Discord utiliza para la verificación de identidad biométrica, y encontraron una interfaz de Persona expuesta a Internet abierta en un servidor autorizado por el gobierno de EE.UU.
En 2.456 archivos de acceso público, el código reveló el extenso software de vigilancia que Persona aplica sobre sus usuarios, integrado en una interfaz que combina el reconocimiento facial con informes financieros, y una implementación paralela que parece diseñada para servir a las agencias federales. El lunes, Discord dijo que no procederá con Persona para la verificación de identidad.
Captura de pantalla de la interfaz expuesta de Persona que muestra una notificación de los sistemas del gobierno de EE.UU. fuente
Persona, más allá de la verificación de edad
Persona Identity, Inc. es una empresa respaldada por Peter Thiel que ofrece soluciones de Conozca a su Cliente (KYC / Know Your Customer) y Antilavado de Dinero (AML / Anti-Money Laundering) que utilizan verificaciones de identidad biométricas para estimar la edad del usuario mediante una «verificación de actividad» patentada diseñada para distinguir entre personas reales e identidades generadas por IA. Con un valor de US$2 mil millones, Persona potencia los procesos de verificación de identidad para empresas como OpenAI, Roblox, Heritage Bank y el servicio de viajes compartidos Lime.
Persona se nutre de una creciente tendencia legislativa sobre verificación de edad que se está extendiendo por todo el mundo. Desde el Control de Chat de la UE hasta la Ley de Seguridad en Línea del Reino Unido y las Leyes KOSA y EARN IT propuestas en EE.UU., los gobiernos argumentan que mientras podamos verificar la edad de cualquier persona en la World Wide Web, podremos proteger a los niños de los peligros de la información gratuita. Esto, al parecer, está lejos de ser cierto.
Además de ofrecer servicios simples para estimar tu edad, el código expuesto de Persona compara tu selfie con fotos de la lista de vigilancia usando reconocimiento facial, te examina contra 14 categorías de medios adversos, desde menciones de terrorismo hasta espionaje, y etiqueta informes con nombres en clave de programas de inteligencia activos que consisten en asociaciones público-privadas para combatir material de explotación infantil en línea, tráfico de cannabis, tráfico de fentanilo, fraude romántico, lavado de dinero y comercio ilegal de vida silvestre.
Una vez que un usuario verifica su identidad con Persona, el software realiza 269 comprobaciones distintas y explora internet y fuentes gubernamentales en busca de posibles coincidencias, como comparar su rostro con el de personas expuestas políticamente (PEP), y generar puntuaciones de riesgo y similitud para cada individuo. Las direcciones IP, las huellas del navegador, las huellas del dispositivo, los números de identificación oficial, los números de teléfono, los nombres, los rostros e incluso los fondos de selfies se analizan y se conservan hasta por tres años.
La información que el software evalúa en las imágenes incluye «Detección de entidades sospechosas en selfies», «Comparación de inconsistencias en la edad de las selfies», detección de fondo similar, que parece coincidir con otros usuarios en la base de datos, y «Detección de poses repetidas en selfies», que parece usarse para determinar si estás usando la misma pose que en fotos anteriores.
En resumen, el software «te marca como una ‘entidad sospechosa’ basándose únicamente en tu rostro», escriben los investigadores. Una acción que puede resultar peligrosa, ya que, según se informa, el software de Persona ha cometido errores importantes al intentar estimar la edad de los usuarios en el pasado. Cuando se combina con los informes AML, este tipo de análisis sospechosos pueden conducir rápidamente al cierre injusto de cuentas bancarias. Y eso parece ser exactamente para lo que se creó Persona.
Además del reconocimiento facial, el software de Persona puede realizar verificaciones de datos financieros, incluyendo verificaciones de listas de sanciones, verificaciones de actividad de criptomonedas a través de las empresas de análisis de blockchain Chainalysis y TRM Labs, y una interfaz para presentar informes de actividad sospechosa (SARs / suspicious activity reports) directamente a las agencias federales de Estados Unidos y Canadá.
No es nada espectacular para un programa KYC/AML, pero marca una tendencia creciente en el cumplimiento de las normas AML, en la que los proveedores de servicios financieros utilizan cada vez más funciones de IA, como el análisis automatizado de las redes sociales, para determinar la puntuación de riesgo de sus clientes. Esto conlleva riesgos inherentes de discriminación por motivos de raza o afiliación política, entre otros.
Este tipo de esfuerzos de verificación de identidad engaña a la gente haciéndoles creer que están más protegidos. Por el contrario, Celeste dice: «Estás haciendo que internet sea menos seguro, no más seguro». «La gente común y corriente», dicen ellos, «no podrán evadirlos», mientras que las personas menos benévolas «siempre encontrarán maneras de explotar tu sistema».
Los informáticos llevan mucho tiempo alertando de que una base de datos centralizada con miles de documentos de identidad siempre será un objetivo lucrativo para los atacantes. El año pasado, 70.000 fotos de documentos de identidad fueron robadas de Discord y retenidas a cambio de un rescate. Cada semana, una nueva filtración pone a las personas en riesgo de sufrir un robo de identidad.
Una llamada de atención
En el mejor de los casos, Persona puede utilizarse para crear gráficos exhaustivos de vigilancia de usuarios para las empresas a las que presta servicios, según los investigadores. En el peor de los casos, el software podría presentar informes automatizados directamente al gobierno.
El código expuesto, que ya ha sido eliminado, se encontraba en un punto final autorizado por el gobierno estadounidense que, según los investigadores, parece haber estado aislado de su entorno de trabajo habitual. Es inusual que un programa de este tipo se encuentre en una infraestructura dedicada, y no en los sistemas compartidos de Cloudflare o Persona, afirman los investigadores.
“Esto se hace cuando los datos requieren compartimentación. Cuando los requisitos de cumplimiento de los datos que se recopilan exigen ese nivel de aislamiento. Cuando el daño causado por una filtración es lo suficientemente grave como para justificar una infraestructura dedicada”, afirman los investigadores.
Del dominio expuesto públicamente, titulado “openai-watchlistdb.withpersona.com”, que parece consultar solicitudes de verificación de identidad en una base de datos OpenAI, los investigadores encontraron una implementación paralela autorizada por FedRAMP del software llamado “withpersona-gov.com”.
FedRAMP, o Programa Federal de Gestión de Riesgos y Autorización (Federal Risk and Authorization Management Program), es un programa de cumplimiento de todo el gobierno federal de los Estados Unidos fundado en 2011 que proporciona un enfoque estandarizado para la evaluación de seguridad, la autorización y el monitoreo continuo de productos y servicios en la nube.
El programa, según los investigadores, realiza análisis de productos y seguimiento del comportamiento del usuario en una plataforma gubernamental de verificación de identidad, proporciona monitoreo de usuarios en tiempo real (cada clic, cada carga de página) en una plataforma FedRAMP que procesa información personal identificable (PII) y datos biométricos, e incluye funciones de verificación de identidad financiera en la plataforma gubernamental. Todas estas funciones, señalan los investigadores, también podrían estar disponibles en la implementación de OpenAI, aunque no se pudo determinar una retroalimentación directa entre ambas plataformas.
La diferencia parece radicar en que OpenAI podría haber creado una base de datos interna para las comprobaciones de identidad de Persona que abarca a todos los usuarios de OpenAI a través de su base de datos de listas de vigilancia interna. «Aprovecharon rápidamente esta oportunidad para pasar de comparar a los usuarios con una única lista de vigilancia federal a crear la lista de vigilancia de todos los usuarios», escriben los investigadores, señalando que esto no es necesariamente una novedad. El director ejecutivo de Persona se ha puesto en contacto personalmente con los investigadores desde entonces, pero el problema de la lista de vigilancia no se ha abordado, afirma Celeste.
Por otro lado, la implementación gubernamental presenta datos que provienen de una implementación de ONYX —una mera coincidencia en el nombre o un posible vínculo con Fivecast ONYX, como señalan los investigadores—, una plataforma de vigilancia «de código abierto» impulsada por IA que ICE adquirió por US$ 4,2 millones en 2023, el mismo año en que el servicio de Persona, ahora expuesto, se puso en marcha por primera vez.
Fivecast ONYX ofrece la recopilación automatizada de datos multimedia de las redes sociales y la web oscura, la creación de «huellas digitales» a partir de datos biográficos, y puede rastrear cambios en el estado de ánimo y las emociones, asignar puntuaciones de riesgo, realizar búsquedas en más de 300 plataformas y más de 28.000 millones de puntos de datos, e identificar a personas con «tendencias violentas». Al igual que Persona, Fivecast ONYX vende específicamente sus servicios de KYC/AML a instituciones financieras.
Los investigadores señalan que no se encontró ningún vínculo directo con la implementación de Fivecast ONYX. Persona Identity, Inc. no parece tener contratos de compras gubernamentales actualmente.
Todo el servicio parece estar impulsado por un chatbot de OpenAI que se ejecuta en la misma plataforma gubernamental que gestiona los SAR, la biometría facial y la revisión de listas de vigilancia. Los operadores utilizan la asistencia de chat de IA mientras revisan informes de actividad sospechosa y coincidencias de reconocimiento facial, según los investigadores. «El código no muestra información de identificación personal (PII) fluyendo a OpenAI, pero, sinceramente, vale la pena preguntarse a qué contexto tiene acceso el copiloto».
Los investigadores esperan que sus hallazgos sirvan de advertencia. «Se suponía que internet sería el gran ecualizador. La información quiere ser libre, la red interpreta la censura como un daño y la evita; todo ese hermoso optimismo. Y por un momento fue cierto», declara Celeste a The Rage.
Pero con el capitalismo de vigilancia como modelo de negocio por defecto, «tomaron la tecnología de comunicación más poderosa de la historia de la humanidad y la convirtieron en una máquina tragamonedas que te entristece. Todos somos ratas en una caja de Skinner presionando la palanca para obtener pastillas de validación».
El Estado quiere verlo todo. Las corporaciones quieren verlo todo. Y han aprendido a trabajar juntas.
Fuente: Hackers Expose Age-Verification Software Powering Surveillance Web
Relacionados:
Hace diez días, la aplicación de chat social Discord anunció que lanzará una configuración «predeterminada para adolescentes» para su audiencia global. Como parte de esta actualización, todos los usuarios, tanto nuevos como existentes, tendrán una experiencia adaptada a adolescentes, con configuraciones de comunicación actualizadas, acceso restringido a espacios restringidos por edad y un filtro de contenido que preserva la privacidad y las conexiones significativas, según la plataforma.
Esto, por supuesto, significa que para usar Discord como estás acostumbrado, tendrás que dejar que escanee tu rostro, y la internet no quedó feliz. Muchas comunidades anunciaron rápidamente su migración a otras plataformas. Otras, como la investigadora de seguridad Celeste, conocida como vmfunc, estaban convencidos de que habría una solución alternativa.
Junto con otros dos investigadores, se propusieron investigar Persona, la startup con sede en San Francisco que Discord utiliza para la verificación de identidad biométrica, y encontraron una interfaz de Persona expuesta a Internet abierta en un servidor autorizado por el gobierno de EE.UU.
En 2.456 archivos de acceso público, el código reveló el extenso software de vigilancia que Persona aplica sobre sus usuarios, integrado en una interfaz que combina el reconocimiento facial con informes financieros, y una implementación paralela que parece diseñada para servir a las agencias federales. El lunes, Discord dijo que no procederá con Persona para la verificación de identidad.
Captura de pantalla de la interfaz expuesta de Persona que muestra una notificación de los sistemas del gobierno de EE.UU. fuente
Persona Identity, Inc. es una empresa respaldada por Peter Thiel que ofrece soluciones de Conozca a su Cliente (KYC / Know Your Customer) y Antilavado de Dinero (AML / Anti-Money Laundering) que utilizan verificaciones de identidad biométricas para estimar la edad del usuario mediante una «verificación de actividad» patentada diseñada para distinguir entre personas reales e identidades generadas por IA. Con un valor de US$2 mil millones, Persona potencia los procesos de verificación de identidad para empresas como OpenAI, Roblox, Heritage Bank y el servicio de viajes compartidos Lime.
Persona se nutre de una creciente tendencia legislativa sobre verificación de edad que se está extendiendo por todo el mundo. Desde el Control de Chat de la UE hasta la Ley de Seguridad en Línea del Reino Unido y las Leyes KOSA y EARN IT propuestas en EE.UU., los gobiernos argumentan que mientras podamos verificar la edad de cualquier persona en la World Wide Web, podremos proteger a los niños de los peligros de la información gratuita. Esto, al parecer, está lejos de ser cierto.
Además de ofrecer servicios simples para estimar tu edad, el código expuesto de Persona compara tu selfie con fotos de la lista de vigilancia usando reconocimiento facial, te examina contra 14 categorías de medios adversos, desde menciones de terrorismo hasta espionaje, y etiqueta informes con nombres en clave de programas de inteligencia activos que consisten en asociaciones público-privadas para combatir material de explotación infantil en línea, tráfico de cannabis, tráfico de fentanilo, fraude romántico, lavado de dinero y comercio ilegal de vida silvestre.
Una vez que un usuario verifica su identidad con Persona, el software realiza 269 comprobaciones distintas y explora internet y fuentes gubernamentales en busca de posibles coincidencias, como comparar su rostro con el de personas expuestas políticamente (PEP), y generar puntuaciones de riesgo y similitud para cada individuo. Las direcciones IP, las huellas del navegador, las huellas del dispositivo, los números de identificación oficial, los números de teléfono, los nombres, los rostros e incluso los fondos de selfies se analizan y se conservan hasta por tres años.
La información que el software evalúa en las imágenes incluye «Detección de entidades sospechosas en selfies», «Comparación de inconsistencias en la edad de las selfies», detección de fondo similar, que parece coincidir con otros usuarios en la base de datos, y «Detección de poses repetidas en selfies», que parece usarse para determinar si estás usando la misma pose que en fotos anteriores.
En resumen, el software «te marca como una ‘entidad sospechosa’ basándose únicamente en tu rostro», escriben los investigadores. Una acción que puede resultar peligrosa, ya que, según se informa, el software de Persona ha cometido errores importantes al intentar estimar la edad de los usuarios en el pasado. Cuando se combina con los informes AML, este tipo de análisis sospechosos pueden conducir rápidamente al cierre injusto de cuentas bancarias. Y eso parece ser exactamente para lo que se creó Persona.
Además del reconocimiento facial, el software de Persona puede realizar verificaciones de datos financieros, incluyendo verificaciones de listas de sanciones, verificaciones de actividad de criptomonedas a través de las empresas de análisis de blockchain Chainalysis y TRM Labs, y una interfaz para presentar informes de actividad sospechosa (SARs / suspicious activity reports) directamente a las agencias federales de Estados Unidos y Canadá.
No es nada espectacular para un programa KYC/AML, pero marca una tendencia creciente en el cumplimiento de las normas AML, en la que los proveedores de servicios financieros utilizan cada vez más funciones de IA, como el análisis automatizado de las redes sociales, para determinar la puntuación de riesgo de sus clientes. Esto conlleva riesgos inherentes de discriminación por motivos de raza o afiliación política, entre otros.
Este tipo de esfuerzos de verificación de identidad engaña a la gente haciéndoles creer que están más protegidos. Por el contrario, Celeste dice: «Estás haciendo que internet sea menos seguro, no más seguro». «La gente común y corriente», dicen ellos, «no podrán evadirlos», mientras que las personas menos benévolas «siempre encontrarán maneras de explotar tu sistema».
Los informáticos llevan mucho tiempo alertando de que una base de datos centralizada con miles de documentos de identidad siempre será un objetivo lucrativo para los atacantes. El año pasado, 70.000 fotos de documentos de identidad fueron robadas de Discord y retenidas a cambio de un rescate. Cada semana, una nueva filtración pone a las personas en riesgo de sufrir un robo de identidad.
Una llamada de atención
En el mejor de los casos, Persona puede utilizarse para crear gráficos exhaustivos de vigilancia de usuarios para las empresas a las que presta servicios, según los investigadores. En el peor de los casos, el software podría presentar informes automatizados directamente al gobierno.
El código expuesto, que ya ha sido eliminado, se encontraba en un punto final autorizado por el gobierno estadounidense que, según los investigadores, parece haber estado aislado de su entorno de trabajo habitual. Es inusual que un programa de este tipo se encuentre en una infraestructura dedicada, y no en los sistemas compartidos de Cloudflare o Persona, afirman los investigadores.
“Esto se hace cuando los datos requieren compartimentación. Cuando los requisitos de cumplimiento de los datos que se recopilan exigen ese nivel de aislamiento. Cuando el daño causado por una filtración es lo suficientemente grave como para justificar una infraestructura dedicada”, afirman los investigadores.
Del dominio expuesto públicamente, titulado “openai-watchlistdb.withpersona.com”, que parece consultar solicitudes de verificación de identidad en una base de datos OpenAI, los investigadores encontraron una implementación paralela autorizada por FedRAMP del software llamado “withpersona-gov.com”.
FedRAMP, o Programa Federal de Gestión de Riesgos y Autorización (Federal Risk and Authorization Management Program), es un programa de cumplimiento de todo el gobierno federal de los Estados Unidos fundado en 2011 que proporciona un enfoque estandarizado para la evaluación de seguridad, la autorización y el monitoreo continuo de productos y servicios en la nube.
El programa, según los investigadores, realiza análisis de productos y seguimiento del comportamiento del usuario en una plataforma gubernamental de verificación de identidad, proporciona monitoreo de usuarios en tiempo real (cada clic, cada carga de página) en una plataforma FedRAMP que procesa información personal identificable (PII) y datos biométricos, e incluye funciones de verificación de identidad financiera en la plataforma gubernamental. Todas estas funciones, señalan los investigadores, también podrían estar disponibles en la implementación de OpenAI, aunque no se pudo determinar una retroalimentación directa entre ambas plataformas.
La diferencia parece radicar en que OpenAI podría haber creado una base de datos interna para las comprobaciones de identidad de Persona que abarca a todos los usuarios de OpenAI a través de su base de datos de listas de vigilancia interna. «Aprovecharon rápidamente esta oportunidad para pasar de comparar a los usuarios con una única lista de vigilancia federal a crear la lista de vigilancia de todos los usuarios», escriben los investigadores, señalando que esto no es necesariamente una novedad. El director ejecutivo de Persona se ha puesto en contacto personalmente con los investigadores desde entonces, pero el problema de la lista de vigilancia no se ha abordado, afirma Celeste.
Por otro lado, la implementación gubernamental presenta datos que provienen de una implementación de ONYX —una mera coincidencia en el nombre o un posible vínculo con Fivecast ONYX, como señalan los investigadores—, una plataforma de vigilancia «de código abierto» impulsada por IA que ICE adquirió por US$ 4,2 millones en 2023, el mismo año en que el servicio de Persona, ahora expuesto, se puso en marcha por primera vez.
Fivecast ONYX ofrece la recopilación automatizada de datos multimedia de las redes sociales y la web oscura, la creación de «huellas digitales» a partir de datos biográficos, y puede rastrear cambios en el estado de ánimo y las emociones, asignar puntuaciones de riesgo, realizar búsquedas en más de 300 plataformas y más de 28.000 millones de puntos de datos, e identificar a personas con «tendencias violentas». Al igual que Persona, Fivecast ONYX vende específicamente sus servicios de KYC/AML a instituciones financieras.
Los investigadores señalan que no se encontró ningún vínculo directo con la implementación de Fivecast ONYX. Persona Identity, Inc. no parece tener contratos de compras gubernamentales actualmente.
Todo el servicio parece estar impulsado por un chatbot de OpenAI que se ejecuta en la misma plataforma gubernamental que gestiona los SAR, la biometría facial y la revisión de listas de vigilancia. Los operadores utilizan la asistencia de chat de IA mientras revisan informes de actividad sospechosa y coincidencias de reconocimiento facial, según los investigadores. «El código no muestra información de identificación personal (PII) fluyendo a OpenAI, pero, sinceramente, vale la pena preguntarse a qué contexto tiene acceso el copiloto».
Los investigadores esperan que sus hallazgos sirvan de advertencia. «Se suponía que internet sería el gran ecualizador. La información quiere ser libre, la red interpreta la censura como un daño y la evita; todo ese hermoso optimismo. Y por un momento fue cierto», declara Celeste a The Rage.
Pero con el capitalismo de vigilancia como modelo de negocio por defecto, «tomaron la tecnología de comunicación más poderosa de la historia de la humanidad y la convirtieron en una máquina tragamonedas que te entristece. Todos somos ratas en una caja de Skinner presionando la palanca para obtener pastillas de validación».
El Estado quiere verlo todo. Las corporaciones quieren verlo todo. Y han aprendido a trabajar juntas.
Fuente: Hackers Expose Age-Verification Software Powering Surveillance Web
Relacionados:
- “¿Atrapado mintiendo otra vez?”: revelan que Discord usa una empresa externa para la verificación de edad que almacena datos y los comercializa con terceros
- Pavel Durov: «Se nos acaba el tiempo para salvar el internet libre»
- En el Reino Unido ya es imposible ver contenido para adultos sin mostrar tu cara o tu DNI, también en Reddit y Discord
- Anuncian proyecto de ley para prohibir uso de redes sociales en menores de 16 años en Chile