¿Sistemas de Inteligencia Artificial en las Entidades Gestoras de la Seguridad Social como perpetuación de sesgos y multiplicación de efectos discriminatorios?

Ainhoa Nieto Garrote

Authors

Ainhoa Nieto Garrote University of Deusto https://orcid.org/0009-0009-7156-2936 (unauthenticated)

Keywords:

Social Security Managing Entities, advanced analytics, biases, discriminatory patterns, AI Regulation, high risk systems

Abstract

The use of AI systems by Social Security Managing Entities as a way of improving management benefits and combating fraud is a reality that has not been sufficiently addressed in terms of the perpetuation of discriminatory patterns in advanced analytics and predictive models. The worrying lack of transparency and potential non-compliance with the AI Regulation and Law 15/2022 are the motivations for this study.

Downloads

192 registered galley accesses

Last 12 months: 192

PDF: 192 · HTML: 0 · Other formats: 0

Article page views

3021 registered views

Last 12 months: 3021

History retained by PKP. Accesses are not unique people and do not guarantee a completed download. Data through: 2026-11-05.

Downloads

Download data is not yet available.

References

Amnistía Internacional: Injusticia codificada. vigilancia y discriminación en el estado de bienestar automatizado de Dinamarca. Londres, Amnesty International Ltd., 2024.

Belloso Martín, N.: “Sobre Fairness y Machine Learning: El Algoritmo ¿Puede (y Debe) Ser Justo?”. Anales de la Cátedra Francisco Suárez, Nº 57, 2023. Pp. 7-38.

Cabanillas-Montferrer, T., et al.: “El sesgo de género en la asistencia sanitaria: definición, causas y consecuencias en los pacientes”. MUSAS. Revista de Investigación En Mujer, Salud y Sociedad, 2022, vol. 7, nº 1, pp. 106-129.

Cotino Hueso, L.: “Discriminación, sesgos e igualdad de la inteligencia artificial en el sector público” en Inteligencia artificial y sector público: retos, límites y medios. Valencia, Tirant lo Blanch, 2023. Pp. 257-351.

De Miguel Beriain, I.: “Medicina personalizada, algoritmos predictivos y utilización de sistemas de decisión automatizados en asistencia sanitaria: Problemas éticos”. Dilemata, 2019, nº 30, pp. 93-109.

Escudero Rivas, C.: “El análisis predictivo en las relaciones laborales y de seguridad social” en VV.AA.: VII Congreso Internacional y XX Congreso Nacional de la Asociación Española de Salud y Seguridad Social. Las transformaciones de la Seguridad Social ante los retos de la era digital, Murcia, Laborum, 2023. Tomo I, pp. 29-41.

Fernández orrico, F.J.: “La IA como instrumento de predicción en materia de altas médicas. Un análisis a la vista de la normativa sobre protección de datos y la propuesta de Reglamento (UE) de IA” en: VV.AA.: VII Congreso Internacional y XX Congreso Nacional de la Asociación Española de Salud y Seguridad Social. Las transformaciones de la Seguridad Social ante los retos de la era digital, Murcia, Laborum, 2023. Tomo I, pp. 133-153.

Fernández Ramírez, M.: “Inteligencia Artificial, algoritmos predictivos y gestión tecnológica de la Seguridad Social” en Las transformaciones de la Seguridad Social ante los retos de la era digital: VII Congreso Internacional y XX Congreso Nacional de la Asociación Española de Salud y Seguridad Social. Murcia, Laborum, 2023. Tomo I, pp. 155-174.

Goerlich Peset, J.M.: “Reglamento de inteligencia artificial e intervención pública en las relaciones laborales”. LABOS Revista De Derecho Del Trabajo Y Protección Social, vol. 5, 2024. Pp. 228-242.

Igartua Miró, M.T.: “El enfoque de género y la enfermedad profesional: reflexiones desde el ordenamiento español”. Revista Internacional y Comparada de Relaciones Laborales y Derecho del Empleo, ADAPT University Press, vol., 1, nº2, 2023.

Martín López, J.: “Inteligencia artificial, sesgos y no discriminación en el ámbito de la inspección tributaria”. Crónica Tributaria, nº 182, 2022. Pp. 51-89.

Mesa, S.: Silencio administrativo. La pobreza en el laberinto burocrático. Barcelona, Editorial Anagrama, S.A.U., 8ª ed., 2019.

Pardo García, J.: “La analítica avanzada de datos en la Seguridad Social”, Astic, 2018, disponible en: https://www.astic.es/wp-content/uploads/2018/06/boletic82-monografico4-juanpardo.pdf

Pérez-Ugena Coromina, M.: “Sesgo de género (en IA)”. EUNOMÍA. Revista en Cultura de la Legalidad, 2024, nº 26, pp. 311-330.

Romero Coronado, J.: “Impacto del Big Data y la Inteligencia Artificial en la gestión de la Seguridad Social”. Revista de Derecho de la Seguridad Social, Laborum. Extraordinaria 6, 2024, pp. 49-70.

Tan, E., et al. “Artificial intelligence and algorithmic decisions in fraud detection: An interpretive structural model”. Data & policy, Cambridge University Press, 2023, vol. 5, e25.

Ünal, C., Erbuğa, G.S.: “Detection and Prevention of Medical Fraud using Machine Learning”. Acta Infologica, 2024, vol. 8, nº 2, p. 100-117.

Villar Cañada, I.M.: “El impacto tecnológico en el ámbito sociolaboral: ¿obstáculo u oportunidad para la sostenibilidad del sistema de pensiones?”. Revista de Derecho de la Seguridad Social, Laborum. Extraordinaria nº 7 (2024): 241-261.

Villar Cañada, I.M.: “La digitalización y los sistemas de protección social: oportunidades y desafíos”. Revista de Trabajo y Seguridad Social. CEF, 459, 173-205.