Del dato al píxel : sobre los sesgos de género y raciales en la IA generativa Dall-E

Abstract

[cat] Del dato al píxel parteix de la hipòtesi que la IA generativa Dall-E crea imatges poc in-clusives per al concepte “feminisme”, i planteja tres objectius principals: analitzar imat-ges generades per Dall-E per al concepte “feminisme”, comprendre els criteris que ha seguit per a generar-les o explicar els possibles biaixos de gènere i racial, i apuntar pos-sibles solucions per als resultats obtinguts. Es planteja com un treball de tipus qualitatiu, l’anàlisi del qual parteix de dues fonts principals d’informació. D’una banda, tres grups focals formats per persones de diferents disciplines i que representen la visió de la persona usuària, la d’especialistes en feminisme i la del feminisme decolonial respectivament. En ells, s’analitzen les imatges i es pensen col·lectivament solucions. D’altra banda, es rea-litza una entrevista a Dall-E a partir de les preguntes sorgides dels resultats obtinguts en els grups de discussió. La recerca conclou que efectivament Dall-E no representa les diferents corrents de femi-nismes i projecta una clara sobrerepresentació del feminisme liberal i blanc. A més, els cossos no representen la diversitat de la població pel que fa a cultura, edat o diversitat funcional. La poca inclusió racial es basa en imatges estereotipades de les cultures. Encara que alguns biaixos poden ser el resultat de les dades d’entrenament, d’altres de més difu-sos responen a criteris de disseny de Dall-E o es veuen afectats per la poca diversitat de persones que treballen en el desenvolupament de la IA. Finalment, es plantegen algunes solucions enfocades a incentivar la investigació i el criticisme de la població amb relació als biaixos i els discursos de la IA, i també per millorar la inclusió dels equips, la seva educació i el funcionament tècnic de Dall-E.

[spa] Del dato al píxel parte de la hipótesis de que la IA generativa Dall-E genera una imagen poco inclusiva para el concepto “feminismo”, y plantea tres objetivos principales: analizar imágenes generadas por Dall-E para el concepto “feminismo”, comprender los criterios utilizados para generarlas o explicar los posibles sesgos de género y raciales, y apuntar a posibles soluciones para los resultados obtenidos. Se plantea como un trabajo de tipo cualitativo, cuyo análisis parte de dos fuentes principales de información. Por un lado, tres grupos focales formados por personas de diferentes disciplinas y que representan la visión de persona usuaria, de experta en feminismo-occidental y desde la mirada decolo-nial respectivamente. En ellos, se analizan las imágenes y se piensan colectivamente so-luciones para los problemas detectados. Por otro lado, se realiza una entrevista a Dall-E a partir de las preguntas surgidas de los resultados obtenidos en los grupos de discusión. La investigación concluye que efectivamente Dall-E no representa las diferentes corrien-tes feministas y proyecta una clara sobrerrepresentación del feminismo liberal y blanco. Además, los cuerpos no representan la diversidad de la población en lo tocante a cultura, edad o diversidad funcional. La poca inclusión racial se basa en imágenes estereotipadas de las culturas. Aunque algunos sesgos pueden ser el resultado de los datos de entreno, otros más difusos responden a criterios de diseño de Dall-E o pueden verse afectados por la poca diversidad de las personas que trabajan en el desarrollo de la IA. Finalmente, se plantean algunes soluciones enfocades a incentivar la investigación y el criticismo de la población en relación con los sesgos y los discursos de la IA, así como mejorar la inclu-sión de los equipos, su educación y el funcionamiento técnico de Dall-E.

[eng] From data to pixel’ it is based on the hypothesis that Dall-E generative AI generates im-ages that are not very inclusive for the concept ‘feminism’ and aims to address three main objectives: analyse images generated by Dall-E for the concept 'feminism', under-stand the criteria used to generate them or explain possible gender and racial biases, and point out possible solutions for the results obtained. This master’s thesis is conceived as qualitative research, with analysis based on two main sources of information. On one hand, three focus groups were conducted to analyse the images and gather collective solutions. The focus groups consist of people from differ-ent disciplines representing the user’s vision, experts in Western feminism, and experts in decolonial perspectives. On the other hand, an interview was carried out with Dall-E based on the questions arising from the results obtained in the discussion groups. The research concludes that, indeed, Dall-E does not represent the different currents of feminism and projects a clear overrepresentation of liberal and white feminism. Further-more, the bodies depicted do not represent the diversity of the population in terms of culture, age, or functional diversity. The lack of racial inclusion is based on stereotypical images of cultures. Although some biases may result from the training data, other more diffuse biases stem from Dall-E’s design criteria or are affected by the low diversity of the people working on AI development. Finally, some solutions are proposed focusing on increasing research and criticism relat-ed to the biases and discourses of AI, as well as improving the inclusion of diverse team members in the Dall-E development teams, their education, and its technical operation.