Estamos siendo juzgados por una puntuación secreta de ‘confiabilidad’

Casi todo lo que compramos, cómo lo compramos y dónde lo compramos se introduce secretamente en los servicios de verificación de IA que ayudan a las compañías a protegerse de los fraude de tarjetas de crédito y de otros tipos, según el Wall Street Journal.

​

Más de 16.000 señales son analizadas por un servicio llamado Sift, que genera una “puntuación Sift” que oscila entre 1 y 100. La puntuación se utiliza para marcar los dispositivos, tarjetas de crédito y cuentas que un proveedor puede querer bloquear basándose en la puntuación global de “confiabilidad” de una persona o entidad, según un portavoz de la empresa.

Desde el sitio web de Sift: “Cada vez que obtenemos un evento, ya sea una vista de página o un evento API, extraemos las características relacionadas con esos eventos y calculamos la puntuación. Estas características se pesan en base al fraude que hemos visto tanto en tu sitio como dentro de nuestra red global, y determinan la puntuación de un usuario. Hay características que pueden tener un impacto negativo en la puntuación, así como otras que tienen un impacto positivo”.

​

El sistema es similar a un puntaje de crédito – excepto que no hay manera de averiguar tu propio puntaje de Sift.

​

Los factores que contribuyen a la puntuación propia de Sift (según el WSJ):

• ¿Es nueva la cuenta?
• ¿Hay muchos dígitos al final de una dirección de correo electrónico?
• ¿La transacción proviene de una dirección IP que es inusual para su cuenta?
• ¿La transacción viene de una región donde hay muchos hackers, como China, Rusia o Europa del Este?
• ¿La transacción proviene de una red de anonimato?
• ¿La transacción está ocurriendo a una hora extraña del día?
• ¿La tarjeta de crédito que se está utilizando ha tenido devoluciones de cargo asociadas a ella?
• ¿Es el navegador diferente de lo que usted usa normalmente?
• ¿Es el dispositivo diferente de lo que usted usa normalmente?
• ¿La cadencia de la forma en que usted escribió su contraseña es típica de usted? (rastreado por algunos sistemas avanzados)

Fuentes: Sift, SecureAuth, Patreon

El sistema es utilizado por empresas como Airbnb, OpenTable, Instacart y LinkedIn.

​

Con el fin de optimizar la puntuación, “Sift evalúa regularmente el rendimiento de nuestros modelos y trata de minimizar el sesgo y la varianza para maximizar la precisión”, según un portavoz.

“Aunque no realizamos auditorías de los sistemas de nuestros clientes en busca de sesgos, permitimos que las organizaciones que utilizan nuestra plataforma tengan la mayor visibilidad posible de los árboles de decisión, modelos o datos que se utilizaron para tomar una decisión”, según Stephen Cox, Vicepresidente de SecureAuth y arquitecto jefe de seguridad. “En algunos casos, es posible que no seamos plenamente conscientes de los medios por los que se utilizan nuestros servicios y productos en el entorno de un cliente“.

No siempre es correcto

Aunque Sift y SecureAuth se esfuerzan por lograr la precisión, a veces es difícil descifrar el comportamiento de compra auténtico del de un fraude.

“A veces sus mejores clientes y sus peores clientes se ven iguales”, dijo Jacqueline Hart, jefa de confianza y seguridad de Patreon, un sitio utilizado por artistas y creadores para permitir que los benefactores los apoyen. “Puedes hacer que alguien venga y te diga que quiero donar US$10,000, y puede que sea un estafador o un gran patrocinador de las artes”, agregó Hart.

Si una cuenta es rechazada debido a su puntuación de Sift, Patreon dirige al benefactor al equipo de confianza y seguridad de la empresa. “Es una manera importante para nosotros de averiguar si hay falsos positivos de la puntuación del Sift y restablecer la cuenta si no debería haber sido marcada como de alto riesgo”, dijo Hart.

El puntaje de Sift de una persona está cambiando constantemente en función del comportamiento de ese usuario, y de cualquier información nueva que el sistema recopile sobre ellos, según la portavoz. De Sift:

Mientras que Sift juzga si se puede confiar en uno o no, no hay ningún archivo con tu nombre que pueda producir para su revisión – porque no necesita tu nombre para analizar tu comportamiento, según el informe – lo que parece una total mentira.

“Nuestros clientes nos enviarán eventos como ‘cuenta creada’, ‘foto de perfil cargada’, ‘alguien envió un mensaje’, ‘revisión escrita’, ‘un artículo fue añadido al carro de compra'”, dice el CEO de Sift, Jason Tan.

Anshu Sharma, cofundador de Clearedin, una nueva empresa que ayuda a las empresas a evitar ser víctimas de ataques de phishing por correo electrónico, pregunta: “Yo diría que, en nuestro deseo de proteger la privacidad, tenemos que tener cuidado, porque ¿vamos a hacer que sea imposible que las buenas personas desempeñen la función necesaria de seguridad?“.

¿Su solución? Transparencia. Cuando una empresa rechaza a un cliente potencial en función de su puntuación Sift, por ejemplo, debe explicar por qué, incluso si esto expone cómo funciona el sistema de puntuación.

Fuente: We’re All Being Judged By A Secret ‘Trustworthiness’ Score

Relacionado: El sistema de monitoreo de comportamiento de China impide que algunos viajen y compren propiedades

 

​

 

Respondido de antemano en el enlace de Relacionado, estimado.