¿Serán sostenibles los principios del proceso social ante el uso negligente de la IA? ¿Disponemos de vías garantistas de detección e impugnación ante una praxis viciada por el juzgador o la contraparte?
Palabras clave:
Sesgo de automatización, alfabetización interdisciplinar, inseguridad jurídica, Instrucción 2/2026, medidas preventivasResumen
Motivado por la mala praxis emergente en torno al empleo negligente de la IA debido al sesgo de automatización y las ultrafalsificaciones, mediante el presente artículo se sostiene la necesidad de reflexionar sobre la sostenibilidad de los principios vertebradores del proceso social y las garantías para detectar e impugnar los vicios que este arrastre. A su vez, se exponen los que se consideran puntos de mejora de la Instrucción 2/2026 del CGPJ y se proponen algunas medidas preventivas.
Descargas
Referencias
Aradas García, A.: «La aportación de una prueba creada con inteligencia artificial en la jurisdicción social». Anuario da Facultade de Dereito da Universidade de Coruña, Vol. 28, 2024, pp. 52‑64.
Banks, I.: “Judges-in-the-loop? Judicial involvement in human oversight of high-risk decision support systems under the EU AI Act. International” Journal of Law and Information Technology, Oxford University Press, 2026, Vol. 34, n. 1, pp.1‑23.
Brenan-Márquez, K. Levy, K. y Susser, D.: «Strange Loops: Apparent versus actual human involvement in automated decision making». Berkeley Technology Law Journal, Vol. 34, 2019, pp 745–772.
Celebi, N., Liu, Q., Karatoprak, M.: «A survey of deep fake detection for trial courts». arXiv Cornell University preprint arXiv 2205.15792, 2022, pp 227–238
Dantart, a.: «Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable». arXive-prints, arXiv:2509.09467, Cornell University, 2025, pp. 1‑118. https://arxiv.org/abs/2509.09467
Deroy, A., Ghosh, K., Ghosh, S.: «How ready are pre-trained abstractive models and LLMs for legal case judgement summarization?». arXiv preprint arXiv:2306.01248 Cornell University, 2023.
Kalai, A.T., et al.: «Why language models hallucinate». arXiv preprint Cornell University, arXiv:2509.04664, 2025, pp. 1‑36.
Juliá Pijoan, M. (2024): «Las Sentencias actuales no son los mejores datos de entrenamiento para la Inteligencia Artificial». VV.AA.: La computarización del derecho: a partir del proceso y de los procedimientos judiciales, Calaza López, S. (Dir.) Madrid, Dykinson.
Magesh, V., et al: “Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”. Journal of empirical legal studies, 2025, vol. 22, n.º 2, pp. 216‑242.
Nores Torres, L.: «El orden social y el proceso laboral tras la LO 1/2025, de 2 de enero». Trabajo y Empresa. Revista de Derecho del Trabajo Vol. 4, n. 1. 2025, pp. 39‑62
Olmos Parés, I.: La nulidad de actuaciones en el proceso social. Valencia: Tirant lo Blanch, 2018, pp. 1‑268.
Peralta Gutierrez, A.: «Impacto comparado de la IA en la Administración de Justicia. La Guía Práctica de la Inteligencia Artificial». Nº 5, 2025. Aranzadi La Ley 1–32.
Satterthwaite, M.: Informe sobre la Independencia de los magistrados y abogados. AGNU, 2025, pp. 1‑23.
Tascón López, R.: «Algunas reflexiones sobre la situación del proceso social tras la Ley Orgánica 1/2025, 2 de enero, de medidas en materia de eficiencia del servicio público de justicia». Revista Crítica de Relaciones de Trabajo, Laborum. n 15º, vol. 2º, 2025, pp 29–52.
