Personas generadas por IA deepfake sembrarán el caos en 2024, ya que serían imposibles de detectar

Personas generadas por IA deepfake sembrarán el caos en 2024, ya que serían imposibles de detectar, advierte exjefe de la Casa Blanca

​

Las imágenes creadas por la inteligencia artificial, los chatbots cada vez más inteligentes y los sofisticados vídeos deepfake ya son difíciles de discernir de la realidad.

Los rostros generados por inteligencia artificial se están volviendo preocupantemente realistas: ninguna de estas personas existe realmente, sino que han sido creadas por ordenador
​

Hackers rusos intentaron engañar al mundo con esta falsificación de Volodymyr Zelensky en 2022
​

La tecnología no va a hacer más que avanzar, y los rápidos avances ya están suavizando los bordes y perfeccionando los programas.

Las señales de alarma ya han saltado, pues algunas imágenes creadas por la IA son casi indistinguibles de las reales, salvo por algunas inconsistencias reveladoras.

Las imágenes que encabezan este artículo son recreaciones casi perfectas de rostros, creadas con el sistema de IA Generated.Photos.

Estas «personas» nunca han nacido, son simples paquetes de código con una ilusión de personalidad, con diferentes edades, sexos, formas faciales y etnias.

Las fotos ya son fotorrealistas, con las imperfecciones que dan vida a los rostros, mucho más allá de lo que se vería en videojuegos como The Sims.

Al ver uno de estos rostros en Facebook, Twitter o Instagram, nunca se pensaría dos veces que pueden ser «falsos».

¿Y quizás uno de ellos podría ser incluso un día tu nuevo colega cuya cara aparezca diciendo «hola» en Slack o Discord?

La experta en ciberseguridad Theresa Payton, la primera mujer en ocupar el cargo de Directora de Información de la Casa Blanca, predijo una preocupante novedad para el futuro: la llegada de verdaderas personas generadas por IA.

Payton describió cómo todas estas características en desarrollo de la IA se combinarían con datos reales de personas reales para crear «franken-fraudes» y «personas de IA«.

Es el siguiente paso en la creación de identidades sintéticas, que suelen utilizarse para estafar dinero a las empresas.

Las identidades sintéticas toman datos de personas reales y los utilizan para crear nuevas identidades, y las estafas basadas en ellas ya cuestan miles de millones de dólares al año.

Y en la nueva era del trabajo a distancia, estas «personas de IA» podrían acabar incorporándose al mercado laboral, afirma Payton.

«A medida que las empresas automaticen sus procesos de escaneo de currículos y realicen entrevistas a distancia, los estafadores y timadores aprovecharán la tecnología punta de IA falsa para crear trabajadores ‘clonados’ respaldados por identidades sintéticas», declaró a The Sun Online.

«El camino digital hacia la identidad de una persona natural será casi imposible de disuadir, detectar y recuperar».

Y añadió: «La capacidad de crear Franken-fraude o identidades sintéticas se automatiza y se ejecuta en tiempo real utilizando IA y análisis de big data para probar y asegurarse de que parece auténtico».

Payton explicó que las empresas deben prepararse para esta eventualidad, con nuevas prácticas de contratación y más supervisión para garantizar que se interactúa realmente con personas reales.

También pidió una mayor regulación de la tecnología deepfake y la IA antes de que los sistemas puedan llegar a ser realmente «indistinguibles» de los reales.

Además del uso indebido de esta tecnología por parte de estafadores, existe otra posibilidad escalofriante para la IA.

La tecnología podría difundir fácilmente en Internet información errónea y peligrosa.

Si antes una foto de un político aceptando un soborno era una prueba fehaciente de corrupción, ¿ahora habría que pararse a pensar si se trata o no de una imagen generada por inteligencia artificial?

El mundo ya ha visto cómo se difundían algunas noticias falsas, como un vídeo falso generado por IA en el que el presidente ucraniano Volodymyr Zelensky decía a sus tropas que depusieran las armas el pasado mes de marzo.

Una información falsa de este tipo podría haber sido devastadora y sembrado el caos si hubiera llegado a calar.

Pero, afortunadamente, el intento aficionado de hacerse pasar por Zelensky fue rechazado por su mala calidad.

Payton dijo: «La consumerización de los deepfakes permite a cualquiera con un mínimo de destreza técnica y un ordenador doméstico manipular y generar audio y video deepfake».

Y añadió: «Antes de que la tecnología se vuelva indistinguible, es necesario que haya una mayor concienciación sobre los deepfakes y su impacto en el entorno online».

«Un grupo de empresas tecnológicas creó la Coalition for Content Provenance and Authenticity (Coalición para la Autenticidad y Procedencia de los Contenidos) con el fin de crear una norma que permitiera a los usuarios ver la fuente de la imagen o el video.

«Por último, las empresas tecnológicas tienen que adaptar ya las prácticas de moderación de contenidos para poder identificar y eliminar la tecnología deepfake en sus plataformas».

«Si no se adoptan estas prácticas, el entorno online podría cambiar drásticamente donde se incrementen las campañas de desinformación y manipulación».

El doctor Tim Stevens, director del Grupo de Investigación sobre Ciberseguridad del King’s College de Londres, también advirtió a The Sun Online sobre el uso de la IA para difundir noticias falsas.

«Hemos pasado de lo posible a lo real», afirmó.

Y añadió: «Herramientas como la IA generativa ya están creando imágenes falsas que a la mayoría de la gente le resulta difícil, si no imposible, discernir de las reales».

«Disponemos de tecnologías de detección que pueden identificarlas, pero ni están generalizadas ni son precisas en todo momento: los algoritmos de creación y detección ya están enzarzados en una competición de evasión e identificación, en la que los creadores de contenidos falsos siempre van un paso por delante».

La IA hace aún más peligroso el ya de por sí volátil espacio informativo, advirtió, con una confianza ya «baja» en las fuentes tradicionales de noticias.

«Es probable que estas tecnologías en manos malintencionadas la disminuyan aún más», afirmó el Dr. Stevens.

Esperaríamos que la gente intentara validar sus fuentes de información, pero no sólo es difícil, sino que a muchos les da igual: si encaja en su visión del mundo, ya es válido y no merece la pena cuestionarlo».

«Llevamos muchos años viendo esto con los contenidos de las redes sociales, y es probable que la IA empeore mucho más la situación».

Tanto Stevens como Payton advirtieron de que es probable que Estados hostiles como Rusia y China utilicen esta tecnología para intentar sembrar la discordia en Occidente.

«Tanto Rusia como China han declarado explícitamente que sus estrategias de información incluyen el objetivo de debilitar la cohesión social en las sociedades objetivo», afirmó Stevens.

Payton añadió: «Actores deshonestos, como China o Rusia, han utilizado deepfakes e imágenes generadas por IA para intentar influir en el discurso social dentro de sus propios países, y fuera de sus fronteras, en su propio beneficio.»

Los cerebritos de la tecnología ya dominan la técnica, y una empresa de inteligencia artificial ya crea imágenes de personas imaginarias.

El programa informático de Midjourney utiliza el aprendizaje automático y una red neuronal para crear imágenes a partir de las indicaciones que le dan los humanos, como «mujeres en una fiesta».

Luego produce imágenes como la de arriba, que pueden ser fantásticamente artísticas e inquietantemente realistas.

La controvertida IA se entrena recibiendo fotos que luego utiliza para crear sus propias imágenes, aunque sin algunos detalles de las personas.

En una escalofriante instantánea, queda claro que las mujeres son inhumanas: su piel brilla demasiado y tienen demasiados dientes metidos en la boca.

La tecnología de la empresa de inteligencia artificial Midjourney puede crear imágenes de personas imaginarias con unas sencillas instrucciones
​

Fuente: Deepfake AI-generated people will sow chaos by 2024 as they would be impossible to detect, warns ex-White House chief

Relacionados:

• Nueva IA que hace videos falsos podría ser el fin de la realidad tal como la conocemos
• Presidente de Microsoft, Brad Smith, advierte que ‘la vida se parecerá a 1984 de George Orwell’ en 2024 si los legisladores no protegen al público contra la IA

 

Is It TOO LATE??

Respaldo: Odysee​