PROPUESTA DE UNA MÉTRICA CUALITATIVA PARA DETERMINAR EL SESGO ÉTICO POST PROCESAMIENTO EN MACHINE LEARNING EDUCATIVO

Abstract

Con el acelerado uso de la tecnología y la inteligencia artificial en el área educativa, resulta importante prestar atención a una rama conocida como aprendizaje automático (machine learning en inglés). La relevancia radica en que numerosas investigaciones han identificado la presencia de respuestas sesgadas y, por lo tanto, discriminatorias hacia determinado grupo de estudiantes en implementaciones desarrolladas, debido a que es utilizado en la predicción de patrones, sistemas de recomendación y toma de decisiones automatizada, lo cual impacta directamente y de manera negativa en grupos estudiantiles. El sesgo mencionado, ha sido abordado desde la perspectiva de la detección y mitigación como sesgo algorítmico por medio de métricas cuantitativas. En el presente trabajo de investigación, opta por abordar un enfoque cualitativo para proponer una métrica que permita la detección del sesgo mediante el uso de una escala de Likert en la fase de post procesamiento, siendo esta etapa en la que se obtienen los datos después de procesar entradas con un algoritmo seleccionado, es decir, se presta atención a la respuesta obtenida; de igual forma, se llevan a cabo pruebas con modelos disponibles en repositorios de acceso libre y se observa el cumplimiento de su objetivo.