Algorithmic discrimination based on gender in the personnel selection process: an approach from labor law and technological ethics
Keywords:
Gender bias, selection process, algorithmic discrimination based on gender, artificial intelligence, equality of opportunitiesAbstract
This article addresses the phenomenon of algorithmic discrimination based on gender in the recruitment processes, with an interdisciplinary approach that integrates legal, technological, and gender equality analysis. In a context where artificial intelligence (AI) has been integrated into human resource management, it examines the risks of perpetuating historical biases through algorithmic systems trained with discriminatory data. Based on the European regulatory framework, especially Regulation (EU) 2024/1689 and the General Data Protection Regulation (EU) 2016/679, the guarantees and limitations of anti-discrimination law are analyzed to face this new reality. The study concludes by proposing normative and organizational strategies that ensure equity in automated labor selection processes.
Downloads
References
Aedp: La protección de datos en las relaciones laborales. Disponible en: La protección de datos en las relaciones laborales
Barrio Andrés, M.: Comentarios al Reglamento Europeo de Inteligencia Artificial, Madrid, La Ley, 2024.
Bhucher, T.: If…Then: Algorithmic Power and Politics. Oxford: Oxford University Press, 2018. Disponible en líne: If...Then: Algorithmic Power and Politics | Oxford Academic (Fecha último acceso: 21-02-2025).
Brynjolfsson, E. y Mcafee, A.: The second machine age: work, progress, and prosperity in a time of brilliant technologies. New Directiions, 2016.
Castillo, C.: “Discriminación algorítmica. Aproximación conceptual”, en Rivas Vallejo, P. (Directora), Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Madrid: Thomson Reuters, pp.71-77, 2022.
Danesi, C.: “Inteligencia Artificial y Derecho”, en Inteligencia Artificial, Tecnologías emergentes y Derecho. Reflexiones interdisciplinares, 1, pp. 39-84, 2020.
Danks, D. y Londres, A. J.: “Algorithmic bias in autonomous systems”. Proceedings of the 26th International Joint Conference on Artificial Intelligence, pp. 4691-4697, 2017.
Digital Future Society, La discriminación algorítmica en España: límites y potencial del marco general, Barcelona.: Mobil World Capital, 2022.
Edwards, A.: Digital Is destroying eberything: what the tech giants won´t tell you about hoe robots, big data, and algorithms are radically remaking your future. Rowman & Littlefield Publishers, 2018.
Flores Anarte, L.: “Sesgos de género en la Inteligencia Artificial. El Estado de derecho frente a la discriminación algorítmica por razón de sexo”, Revista Internacional de pensamiento político, 18, 95-120, 2023.
Ginés I Fabrellas, A.: “El derecho a conocer el algoritmo: una oportunidad perdida de la Ley Rider”, IusLabor, nº 3, pp. 1-5, 2021.
Gómez García, F. X.: “La importancia del e-recruitment en la moderna gestión de recursos humanos”, International Journal of Information Systems and Sofware Engineering for Big Companies (IJISEBEC), vol. 6, nº 2, pp. 33-39, 2019.
Hacker, P.: “Teaching fairness to Artificial Inteligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law”, Common Market Law Review, nº 55, pp. 1143-1185, 2018. Disponible en: Teaching Fairness to Artificial Intelligence: Existing and Novel Strategies Against Algorithmic Discrimination Under EU Law by Philipp Hacker :: SSRN (Fecha de última consulta: 21-02-2025).
Linkedin Talent Solutions: Global Recruting Trend. The 4 ideas changing how you hire, 2018.
Ministerio de Trabajo y Economía Social: Información algorítmica en el ámbito laboral. Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral, 2022. Disponible en: Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral – DIGITALIDADES (Fecha de última consulta: 21-02-2025).
Muñoz Ruiz, A. B.: Biometría y sistemas automatizados de reconocimiento de emociones: implicaciones jurídico-laborales, Valencia: Tirant lo Blanch, 2023.
Olarte Encabo, S.: “La aplicación de inteligencia artificial a los procesos de selección de personal y ofertas de empleo: impacto sobre el derecho a la no discriminación”, Documentación Laboral, Vol. I, nº 119, pp. 79 a 88, 2020.
Ong, J.: “Ethics of artificial intelligence recruitment systems at the United States Secret Service”, 2019. Disponible en: https://jscholarship.library.jhu.edu/handle/1774.2/61791 (Fecha de última consulta: 21-02-2025).
O´Neil, C.: Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia, Madrid, Capitán Swing, 2017.
Observatorio Nacional de Tecnología y Sociedad: Uso de inteligencia artificial y big data en las empresas españolas, 2023. Disponible en: https://www.ontsi.es/sites/ontsi/files/2023-02/Brújula_IA_Big_data_2023.pdf (Fecha de última consulta: 24-02-2025).
Pastor Martínez, A.: “Los derechos colectivos de información, consulta y negociación del uso de algoritmos y sistemas de IA”, en Ginés I Fabrellas, A. (Directora), Algoritmos, Inteligencia Artificial y relación laboral, Madrid, Thomson Reuters, pp. 335-361, 2023.
Raavendra P., Satish, Y., Singh, P.: “Changing landscape of recruitment industry: a study on the impacto f artificial intelligence on eliminating hiring bias from recruitment and selection process, Comput Theor Nanosci, Vol. 17, nº 9, pp. 4404-4407, 2020.
Rivas Vallejo, P.: “Sesgos de automatización y discriminación algorítmica”, en Rivas Vallejo, P. (Directora), Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Madrid: Thomson Reuters, pp. 31-68, 2021.
Rivas Vallejo, P.: La aplicación de la inteligencia artificial al trabajo y su impacto discriminatorio, Pamplona, Aranzadi, 2020.
Rodríguez Escanciano, S.: Derechos laborales digitales: garantías e interrogantes, Pamplona, Aranzadi, 2019.
