Intel·ligència Artificial i baixos algorísmics

Abstract

Aquest Recurs Educatiu Obert (OER) analitza el biaix en la intel·ligència artificial (IA) i en els algoritmes com a formes de discriminació sistemàtica integrades en els sistemes d’aprenentatge automàtic. El recurs explica com els conjunts de dades d’entrenament, les decisions de disseny, els bucles de retroalimentació i els factors sociotècnics poden generar resultats injustos o discriminatoris, reforçant desigualtats de gènere, racials o socioeconòmiques.

S’hi presenten exemples concrets, com el biaix racial en sistemes de reconeixement facial, el biaix de gènere en algoritmes de selecció de personal, els errors en diagnòstics mèdics assistits per IA i els resultats discriminatoris en eines de vigilància predictiva. Aquests casos mostren que la IA no és neutral, sinó que pot reflectir i amplificar estructures socials desiguals.

L’OER proposa estratègies per mitigar o prevenir aquests biaixos, com l’ús de dades diverses i representatives, l’auditoria i monitorització dels sistemes, la transparència i explicabilitat (XAI), el disseny inclusiu i l’establiment de marcs reguladors adequats. També destaca el paper dels professionals de la Informació i la Documentació en la promoció de l’alfabetització en IA, l’alfabetització algorítmica i l’alfabetització en dades.

Aquest recurs s’emmarca en el projecte europeu GEDIS (Gender Diversity in Information Science) i promou una aproximació crítica, inclusiva i socialment responsable a la IA en l’educació superior.