Machine unlearning: el arte de olvidar en la era de la Inteligencia Artificial

Abstract

[es] El “machine unlearning” es un concepto que describe el proceso o conjunto de técnicas utilizadas para disminuir la influencia de ciertos datos en un modelo de aprendizaje automático que ya ha sido entrenado previamente. Este proceso es esencial en situaciones donde es necesario corregir errores en los datos de entrenamiento, proteger la privacidad de los individuos, eliminar datos que ya no son relevantes, y evitar que el modelo se sesgue o sobreajuste a los datos de entrenamiento. Este trabajo se centra en profundizar en la técnica de “machine unlearning” en el contexto de predicción de edad, a partir de un conjunto de datos compuesto por imágenes faciales de diferentes grupos de edad, sexos y etnias. Se implementan dos métodos sencillos para realizar “machine unlearning”. Además, se define una métrica de evaluación clara con el objetivo de medir tanto la precisión de las predicciones como la eficacia en la eliminación de datos de los modelos entrenados. Finalmente, se realiza un análisis detallado del comportamiento de los modelos bajo diversas configuraciones generadas mediante las técnicas de “unlearning”. En este análisis se explican los resultados obtenidos, comparando la precisión de las predicciones y los comportamientos observados en los modelos. [en] The term “machine unlearning” refers to a method or collection of methods used to mitigate the impact of specific data on a machine learning model that has already been trained. This procedure is crucial when it comes to removing data that is no longer relevant, safeguarding the privacy of individuals, fixing mistakes in the training set, and keeping the model from becoming biased or overfitting the training set. In this work, the technique of “machine unlearning” is explored with respect to age prediction using a dataset consisting of facial photos belonging to various age groups, genders, and ethnicities. We evaluate two simple methods for machine unlearning implementation. Furthermore, an explicit evaluation metric is provided to assess the performance of data removal from the training models as well as the prediction accuracy. Ultimately, an extensive analysis of the behavior of the models in various configurations produced by the “unlearning” procedures is performed. This analysis explains the obtained results, comparing the prediction accuracy and the observed behaviors in the models.