Inteligencia artificial y sesgos algortímicos

Abstract

Este Recurso Educativo Abierto (OER) analiza el sesgo en la inteligencia artificial (IA) y en los algoritmos como formas de discriminación sistemática incorporadas en los sistemas de aprendizaje automático. El recurso explica cómo los datos de entrenamiento, las decisiones de diseño, los bucles de retroalimentación y los factores sociotécnicos pueden generar resultados injustos o discriminatorios, reforzando desigualdades de género, raza o condición socioeconómica.

Se presentan ejemplos concretos de sesgo algorítmico, como el sesgo racial en sistemas de reconocimiento facial, el sesgo de género en algoritmos de selección de personal, los errores en diagnósticos médicos asistidos por IA y los resultados discriminatorios en herramientas de vigilancia predictiva. Estos casos muestran cómo los sistemas automatizados pueden amplificar desigualdades estructurales preexistentes.

El OER propone medidas para mitigar o prevenir estos sesgos, entre ellas el uso de conjuntos de datos diversos y representativos, la auditoría y monitorización continua, la transparencia y explicabilidad (XAI), el diseño inclusivo y el establecimiento de marcos regulatorios adecuados. Asimismo, subraya el papel del ámbito de la Información y la Documentación en la promoción de la alfabetización en IA, la alfabetización algorítmica y la alfabetización en datos.

Este recurso se integra en el proyecto europeo GEDIS (Gender Diversity in Information Science) y contribuye a fomentar una comprensión crítica y responsable de la IA en la educación superior.