Una gran polémica estalló en X esta semana, y todos los dardos apuntaron a Gemini, el chatbot de Google, quien estaba generando imagenes, digamos, con varias “imprecisiones históricas”.
La controversia radica en lo que parece ser una sobrecorrección realizada por el modelo de generación de imagenes para manejar la diversidad e inclusión en sus resultados, lo cual se ha traducido en imágenes factualmente incorrectas.
Varios ejemplos han dado vuelta por la red social, tales como los soldados nazis racialmente diversos, o los reyes británicos medievales de color. En The Verge también dan cuenta de otros casos, como los senadores estadounidenses de los años 1800 mostrados como mujeres indígenas o personas negras.
Ante esto, Google ha decidido suspender esta funcionalidad temporalmente, lo cual ocurre tan solo 3 semanas después de haber sido integrado en Gemini.
Si bien es problemático que Gemini trate de sobrecorregir de esta manera, no es necesariamente incorrecto que el modelo entregue un grupo diverso de personas al pedirle imágenes de ese estilo. De igual forma, tampoco es malo tener mecanismos que mitiguen o sirvan como contrapesos ante sesgos. De hecho es todo lo contario. Es deseable tenerlos para justamente evitar que estos sean perpetuados por estas herramientas.
Esta situación nos recuerda que todavía estos modelos aún tienen un margen bastante imporante de mejora, especialmente en lo que respecta al manejo de sesgos. Al ser algoritmos tan complejos, es de esperar que existan varios casos bordes en los cuales no se comporte como debería.
Por el momento, esta opción en Gemini estará deshabilitada hasta que la compañía lance una versión mejorada, lo cual probablemente ocurra durante los próximos días.
