Compte amb la bretxa: dades de gènere i biaix d'IA

Abstract

[cat] Aquest Recurs Educatiu Obert (REA) s’inscriu dins del projecte europeu GEDIS – Gender Diversity in Information Science: Challenges in Higher Education, cofinançat per la Unió Europea. El material tracta la bretxa de dades de gènere en la intel·ligència artificial (IA) i les seves repercussions en diferents àmbits socials i tecnològics. A través d’un pòster i un resum d’evidències, s’exposen els principals tipus de biaix (representatiu, algorísmic, cultural i interseccional), les seves causes, casos documentats i estratègies per reduir-los.

El recurs té com a objectiu conscienciar el professorat, el personal bibliotecari i l’estudiantat sobre com les desigualtats en les dades influeixen en les decisions automatitzades, afavorint una IA més justa i inclusiva. Es fonamenta en estudis recents d’organismes internacionals com la UNESCO i en recerques acadèmiques sobre l’ètica i la governança de la IA.

Desenvolupat durant la Summer School Barcelona del projecte GEDIS, aquest REA fomenta l’aprenentatge crític sobre la relació entre gènere, dades i tecnologia, i la implementació de bones pràctiques en el disseny i l’avaluació de sistemes intel·ligents. #GEDIS #SummerSchoolBarcelona

[eng] This Open Educational Resource (OER) is part of the European GEDIS Project – Gender Diversity in Information Science: Challenges in Higher Education, co-funded by the European Union. The material addresses the gender data gap in artificial intelligence (AI) and its implications across different social and technological domains. Through a poster and a summary of evidence, it presents the main types of bias (representational, algorithmic, cultural, and intersectional), their causes, documented cases, and strategies to mitigate them.

[eng] The resource aims to raise awareness among teachers, librarians, and students about how data inequalities influence automated decision-making, promoting a fairer and more inclusive AI. It is based on recent studies by international organisations such as UNESCO, as well as on academic research concerning AI ethics and governance.

Developed during the GEDIS Summer School in Barcelona, this OER fosters critical learning about the relationship between gender, data, and technology, and encourages the implementation of good practices in the design and evaluation of intelligent systems. #GEDIS #SummerSchoolBarcelona