Sesgo algorítmico en la IA: conceptos clave, implicaciones y soluciones

Abstract

[spa] Este Recurso Educativo Abierto (REA), titulado Sesgo algorítmico en la IA: conceptos clave, implicaciones y soluciones, examina el fenómeno del sesgo algorítmico en la inteligencia artificial (IA) y sus repercusiones en distintos ámbitos, como la sanidad, el derecho o los recursos humanos. El material ofrece una explicación clara de las causas del sesgo —entre ellas, los datos de entrenamiento defectuosos y los prejuicios implícitos de las personas desarrolladoras—, así como de sus consecuencias sociales y éticas.

El recurso fue desarrollado en el marco del proyecto europeo GEDIS – Gender Diversity in Information Science: Challenges in Higher Education, que promueve herramientas educativas abiertas para abordar las desigualdades de género en la educación superior, especialmente en el ámbito de la Información y la Documentación. Este material se elaboró en el contexto de la Summer School de Barcelona, como parte de las actividades de formación del proyecto GEDIS.

El REA destaca diversas estrategias para mitigar el sesgo algorítmico, como la utilización de conjuntos de datos diversos y representativos, la realización de auditorías periódicas, la adopción de directrices éticas y normativas, y la supervisión humana constante. Asimismo, pone de relieve la importancia del pensamiento crítico y de la intervención humana en la interpretación y validación de los resultados producidos por sistemas de IA.

Las audiencias destinatarias incluyen a personal bibliotecario, profesorado universitario y estudiantado interesado en los temas de género, ética digital e inteligencia artificial. Este recurso contribuye al objetivo general del proyecto GEDIS de integrar la perspectiva de género y diversidad en la enseñanza de las Ciencias de la Información, promoviendo una alfabetización digital más inclusiva y responsable. #GEDIS #SummerSchoolBarcelona

[eng] This Open Educational Resource (OER), titled Algorithmic Bias in AI: Key Concepts, Implications, and Solutions, examines the phenomenon of algorithmic bias in artificial intelligence (AI) and its impact across various domains, such as healthcare, law, and human resources. The material provides a clear explanation of the causes of bias — including flawed training datasets and the implicit biases of developers — as well as its social and ethical consequences.

The resource was developed within the framework of the European GEDIS Project – Gender Diversity in Information Science: Challenges in Higher Education, which promotes the use of open educational tools to address gender inequalities in higher education, particularly in the field of Information and Documentation. This material was produced during the GEDIS Summer School in Barcelona as part of the project’s training activities.

The OER highlights several strategies for mitigating algorithmic bias, such as the use of diverse and representative datasets, the implementation of regular audits, the adoption of ethical and regulatory guidelines, and ongoing human oversight. It also emphasises the importance of critical thinking and human intervention in interpreting and validating the results generated by AI systems.

The intended audiences include librarians, university educators, and students interested in issues related to gender, digital ethics, and artificial intelligence. This resource contributes to the overall goal of the GEDIS Project: integrating gender and diversity perspectives into the teaching of Information Science and promoting a more inclusive and responsible form of digital literacy. #GEDIS #SummerSchoolBarcelona