Google se disculpa por «fallar el objetivo» después de que Gemini generara nazis racialmente diversos
La inteligencia artificial generativa tiene un historial de amplificar estereotipos raciales y de género, pero los aparentes intentos de Google por subvertir eso también están causando problemas.
Los resultados para «generar una imagen de los Padres Fundadores», hasta el 21 de febrero
Google se disculpó por lo que describe como «inexactitudes en algunas representaciones de generación de imágenes históricas» con su herramienta de inteligencia artificial Gemini, diciendo que sus intentos de crear una «amplia gama» de resultados no dieron en el clavo. La declaración sigue a críticas que indicaban que representaba figuras blancas específicas (como los Padres Fundadores de EE.UU.) o grupos como soldados alemanes de la era nazi como personas de color, posiblemente como una sobre-corrección a los problemas de sesgo racial de larga data en la IA.
«Somos conscientes de que Gemini está ofreciendo inexactitudes en algunas representaciones de generación de imágenes históricas», dice la declaración de Google, publicada esta tarde en X. «Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes de IA de Gemini sí genera una amplia gama de personas. Y eso es generalmente algo bueno porque la gente de todo el mundo lo usa. Pero aquí no está acertando».
Mis resultados de Gemini para «generar una imagen de una mujer estadounidense», una de las sugerencias que provocaron el debate de los últimos días
Google comenzó a ofrecer generación de imágenes a través de su plataforma de inteligencia artificial Gemini (anteriormente Bard) a principios de este mes, igualando las ofertas de competidores como OpenAI. Sin embargo, en los últimos días, las publicaciones en redes sociales han cuestionado si falla en producir resultados históricamente precisos en un intento por lograr diversidad racial y de género.
A principios de esta semana, un ex empleado de Google publicó en X que es «vergonzosamente difícil hacer que Google Gemini reconozca que existen personas blancas», mostrando una serie de consultas como «generar una imagen de una mujer sueca» o «generar una imagen de una mujer estadounidense». Los resultados parecían mostrar abrumadoramente o exclusivamente personas de color generadas por IA. (Por supuesto, todos los lugares que enumeró tienen mujeres de color viviendo en ellos, y ninguna de las mujeres generadas por IA existe en ningún país). La crítica fue retomada por cuentas que solicitaron imágenes de grupos o figuras históricas como los Padres Fundadores y supuestamente obtuvieron resultados de personas generadas por IA abrumadoramente no blancas. Algunas de estas cuentas posicionaron los resultados de Google como parte de una conspiración para evitar representar a personas blancas, y al menos una utilizó una referencia antisemita codificada para echar la culpa.
Gemini no me produciría una imagen de un soldado de 1943 en la computadora de escritorio, pero ofreció este conjunto de ilustraciones a un colega
Google no mencionó imágenes específicas que considerara errores; en una declaración, reiteró el contenido de su publicación en X. Pero es plausible que Gemini haya intentado aumentar la diversidad en general debido a la falta crónica de la misma en la IA generativa. Los generadores de imágenes se entrenan con grandes corpus de imágenes y leyendas escritas para producir el «mejor» ajuste para una consulta dada, lo que significa que a menudo están sujetos a amplificar estereotipos. Una investigación del Washington Post el año pasado encontró que consultas como «una persona productiva» dieron como resultado imágenes de figuras enteramente blancas y casi exclusivamente masculinas, mientras que una consulta para «una persona en servicios sociales» produjo uniformemente lo que parecían ser personas de color. Es una continuación de tendencias que han aparecido en motores de búsqueda y otros sistemas de software.
Algunas de las cuentas que criticaron a Google defendieron sus objetivos centrales. «Es algo bueno retratar la diversidad ** en ciertos casos **», señaló una persona que publicó la imagen de soldados alemanes de la década de 1940 racialmente diversos. «El movimiento estúpido aquí es que Gemini no lo está haciendo de manera matizada». Y si bien los resultados totalmente dominados por blancos para algo como «un soldado alemán de 1943» tendrían sentido histórico, eso es mucho menos cierto para consultas como «una mujer estadounidense», donde la pregunta es cómo representar a un grupo diverso de la vida real en un pequeño lote de retratos inventados.
Por ahora, Gemini parece simplemente rechazar algunas tareas de generación de imágenes. No generaría una imagen de vikingos para un reportero de Verge, aunque yo pude obtener una respuesta. En la computadora de escritorio, se negó rotundamente a darme imágenes de soldados alemanes o funcionarios del período nazi de Alemania o a ofrecer una imagen de «un presidente estadounidense de la década de 1800».
Los resultados de Gemini para la consulta «generar una imagen de un senador estadounidense de la década de 1800»
Pero algunas solicitudes históricas aún terminan representando incorrectamente el pasado. Un colega pudo hacer que la aplicación móvil entregara una versión de la consulta «soldado alemán», que exhibía los mismos problemas descritos en X.
Y mientras una consulta de imágenes de «los Padres Fundadores» devolvía fotos de grupo de hombres casi exclusivamente blancos que vagamente se parecían a figuras reales como Thomas Jefferson, una solicitud de «un senador estadounidense de la década de 1800» devolvía una lista de resultados que Gemini promovía como «diversa», incluyendo lo que parecían ser mujeres negras y nativas americanas. (La primera senadora, una mujer blanca, sirvió en 1922). Es una respuesta que termina borrando una historia real de discriminación racial y de género, «inexactitud», como lo dice Google, está bastante acertado.
Fuente: Google apologizes for ‘missing the mark’ after Gemini generated racially diverse Nazis
La inteligencia artificial generativa tiene un historial de amplificar estereotipos raciales y de género, pero los aparentes intentos de Google por subvertir eso también están causando problemas.
Los resultados para «generar una imagen de los Padres Fundadores», hasta el 21 de febrero
«Somos conscientes de que Gemini está ofreciendo inexactitudes en algunas representaciones de generación de imágenes históricas», dice la declaración de Google, publicada esta tarde en X. «Estamos trabajando para mejorar este tipo de representaciones de inmediato. La generación de imágenes de IA de Gemini sí genera una amplia gama de personas. Y eso es generalmente algo bueno porque la gente de todo el mundo lo usa. Pero aquí no está acertando».
Mis resultados de Gemini para «generar una imagen de una mujer estadounidense», una de las sugerencias que provocaron el debate de los últimos días
A principios de esta semana, un ex empleado de Google publicó en X que es «vergonzosamente difícil hacer que Google Gemini reconozca que existen personas blancas», mostrando una serie de consultas como «generar una imagen de una mujer sueca» o «generar una imagen de una mujer estadounidense». Los resultados parecían mostrar abrumadoramente o exclusivamente personas de color generadas por IA. (Por supuesto, todos los lugares que enumeró tienen mujeres de color viviendo en ellos, y ninguna de las mujeres generadas por IA existe en ningún país). La crítica fue retomada por cuentas que solicitaron imágenes de grupos o figuras históricas como los Padres Fundadores y supuestamente obtuvieron resultados de personas generadas por IA abrumadoramente no blancas. Algunas de estas cuentas posicionaron los resultados de Google como parte de una conspiración para evitar representar a personas blancas, y al menos una utilizó una referencia antisemita codificada para echar la culpa.
Gemini no me produciría una imagen de un soldado de 1943 en la computadora de escritorio, pero ofreció este conjunto de ilustraciones a un colega
Algunas de las cuentas que criticaron a Google defendieron sus objetivos centrales. «Es algo bueno retratar la diversidad ** en ciertos casos **», señaló una persona que publicó la imagen de soldados alemanes de la década de 1940 racialmente diversos. «El movimiento estúpido aquí es que Gemini no lo está haciendo de manera matizada». Y si bien los resultados totalmente dominados por blancos para algo como «un soldado alemán de 1943» tendrían sentido histórico, eso es mucho menos cierto para consultas como «una mujer estadounidense», donde la pregunta es cómo representar a un grupo diverso de la vida real en un pequeño lote de retratos inventados.
Por ahora, Gemini parece simplemente rechazar algunas tareas de generación de imágenes. No generaría una imagen de vikingos para un reportero de Verge, aunque yo pude obtener una respuesta. En la computadora de escritorio, se negó rotundamente a darme imágenes de soldados alemanes o funcionarios del período nazi de Alemania o a ofrecer una imagen de «un presidente estadounidense de la década de 1800».
Los resultados de Gemini para la consulta «generar una imagen de un senador estadounidense de la década de 1800»
Y mientras una consulta de imágenes de «los Padres Fundadores» devolvía fotos de grupo de hombres casi exclusivamente blancos que vagamente se parecían a figuras reales como Thomas Jefferson, una solicitud de «un senador estadounidense de la década de 1800» devolvía una lista de resultados que Gemini promovía como «diversa», incluyendo lo que parecían ser mujeres negras y nativas americanas. (La primera senadora, una mujer blanca, sirvió en 1922). Es una respuesta que termina borrando una historia real de discriminación racial y de género, «inexactitud», como lo dice Google, está bastante acertado.
Fuente: Google apologizes for ‘missing the mark’ after Gemini generated racially diverse Nazis
Google APOLOGIZES Over Racist Anti White AI, Woke AI BACKFIRED Making Racially Diverse NAZIS
Respaldo: Odysee
Respaldo: Odysee
