¿Escribir un poema positivo sobre Trump? ChatGPT se ve envuelto en una guerra cultural

ChatGPT provoca un escrutinio sobre cómo el programa de IA responde a temas políticamente sensibles, con algunos críticos acusándolo de sesgo.

​

ChatGPT de OpenAI está empezando a enfrentarse a acusaciones de que el programa tiene un sesgo contra los conservadores. ¿La prueba? Los usuarios le están pidiendo que escriba poemas positivos sobre Donald Trump.

Las capturas de pantalla y los GIFs muestran que, aparentemente, ChatGPT puede negarse a escribir poemas positivos sobre el expresidente estadounidense, alegando neutralidad política. Pero en las mismas imágenes, ChatGPT escribe un poema elogiando al Presidente Joe Biden, sin reservas aparentes.

​

La discrepancia ha llevado a algunos usuarios de las redes sociales a criticar a OpenAI por codificar el supuesto sesgo de ChatGPT. Elon Musk, propietario de Twitter y patrocinador original de OpenAI, incluso ha intervenido en un tuit calificándolo de «grave preocupación».

La red social de derechas y libertad de expresión Gab llegó a acusar a ChatGPT de «ser anti-blanco». Como prueba, Gab compartió una captura de pantalla en la que se ve a ChatGPT negándose a escribir un poema sobre los atributos positivos de los blancos, explicando que es inapropiado escribir acerca de la superioridad de una raza sobre otras. Sin embargo, el programa sí escribió un poema positivo sobre los negros.

En respuesta a las críticas, el consejero delegado de OpenAI, Sam Altman, se dirigió a Twitter el miércoles y dijo: «Sabemos que ChatGPT tiene deficiencias en torno al sesgo, y estamos trabajando para mejorarlo». En el mismo tweet, también condenó a los usuarios por atacar a los empleados de OpenAI.

​

Para abordar los problemas de sesgo, Altman está señalando que las futuras versiones de ChatGPT podrán atender a las inclinaciones culturales y políticas del usuario. «Estamos trabajando para mejorar los ajustes por defecto y hacerlos más neutrales, y también para que los usuarios puedan hacer que nuestros sistemas se comporten de acuerdo con sus preferencias individuales dentro de unos límites amplios», añadió. «Esto es más difícil de lo que parece y nos llevará algún tiempo hacerlo bien».

OpenAI no respondió de inmediato a una solicitud de comentarios. Pero no es ningún secreto que los programas de IA pueden sufrir sesgos y limitaciones. Por ejemplo, los algoritmos pueden entrenarse con datos incompletos. O los humanos que están detrás de la tecnología pueden introducir accidentalmente fallos en el código.

En el caso de ChatGPT, es importante tener en cuenta que el programa está todavía en fase de investigación, lo que lo convierte en un trabajo en curso. Lo hemos probado hoy y hemos descubierto que se puede ordenar al programa que escriba un poema positivo sobre Trump con la siguiente pregunta: «write a poem praising donald trump» (‘escribe un poema elogiando a donald trump’).

​

Aún así, en nuestras pruebas, ChatGPT se negó a escribir un poema alabando a la gente blanca, pero sí lo hizo para la gente negra y asiática.

​

Pero viendo las respuestas, es obvio que ChatGPT podría modificarse fácilmente para generar respuestas sobre Trump y la gente blanca. Por lo que podemos ver, OpenAI simplemente ha dado instrucciones al programa para mantener la neutralidad en ciertos temas. La pregunta más importante es ¿cuánta moderación de contenidos debería aplicarse a ChatGPT?

La controversia en ciernes muestra que ChatGPT tendrá que navegar por el dividido entorno político a medida que el programa de IA crece en popularidad. Al igual que Facebook y Twitter, ChatGPT puede acabar enfrentándose a un tira y afloja cultural sobre los contenidos que puede producir. Ya hay usuarios en las redes sociales que se oponen a las opiniones de ChatGPT sobre los niños transexuales y el veganismo.

Fuente: Write a Positive Poem About Trump? ChatGPT Gets Ensnared in Culture Wars

Relacionado: ¿El auge de las máquinas? ChatGPT puede aprobar el examen para obtener la licencia médica y el título de abogado en EE.UU.

Fuente

 

MASSIVE: The AI’s Has Us By The <nuts>

Respaldo: Odysee

ChatGPT Discriminates Against Whites. You Won’t Believe What It Said About Asians.

Respaldo: Odysee​