Will the principles of social process be sustainable face to a negligent use of AI? Do we have procedural safeguards to detect and contest vitiated practices by the court or the opposing party?
Keywords:
Automation bias, interdisciplinary literacy, legal uncertainty, Instruction 2/2026, preventive measuresAbstract
Motivated by the emerging malpractice surrounding the negligent use of AI driven by automation bias and deepfakes, this article argues for the need to critically reflect on the sustainability of the core principles of the social process and the safeguards to detect and challenge any procedural flaws. Furthermore, it outlines potential areas for improvement regarding Instruction 2/2026 of the General Council of the Judiciary and proposes some preventive measures.
Downloads
References
Aradas García, A.: «La aportación de una prueba creada con inteligencia artificial en la jurisdicción social». Anuario da Facultade de Dereito da Universidade de Coruña, Vol. 28, 2024, pp. 52‑64.
Banks, I.: “Judges-in-the-loop? Judicial involvement in human oversight of high-risk decision support systems under the EU AI Act. International” Journal of Law and Information Technology, Oxford University Press, 2026, Vol. 34, n. 1, pp.1‑23.
Brenan-Márquez, K. Levy, K. y Susser, D.: «Strange Loops: Apparent versus actual human involvement in automated decision making». Berkeley Technology Law Journal, Vol. 34, 2019, pp 745–772.
Celebi, N., Liu, Q., Karatoprak, M.: «A survey of deep fake detection for trial courts». arXiv Cornell University preprint arXiv 2205.15792, 2022, pp 227–238
Dantart, a.: «Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable». arXive-prints, arXiv:2509.09467, Cornell University, 2025, pp. 1‑118. https://arxiv.org/abs/2509.09467
Deroy, A., Ghosh, K., Ghosh, S.: «How ready are pre-trained abstractive models and LLMs for legal case judgement summarization?». arXiv preprint arXiv:2306.01248 Cornell University, 2023.
Kalai, A.T., et al.: «Why language models hallucinate». arXiv preprint Cornell University, arXiv:2509.04664, 2025, pp. 1‑36.
Juliá Pijoan, M. (2024): «Las Sentencias actuales no son los mejores datos de entrenamiento para la Inteligencia Artificial». VV.AA.: La computarización del derecho: a partir del proceso y de los procedimientos judiciales, Calaza López, S. (Dir.) Madrid, Dykinson.
Magesh, V., et al: “Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”. Journal of empirical legal studies, 2025, vol. 22, n.º 2, pp. 216‑242.
Nores Torres, L.: «El orden social y el proceso laboral tras la LO 1/2025, de 2 de enero». Trabajo y Empresa. Revista de Derecho del Trabajo Vol. 4, n. 1. 2025, pp. 39‑62
Olmos Parés, I.: La nulidad de actuaciones en el proceso social. Valencia: Tirant lo Blanch, 2018, pp. 1‑268.
Peralta Gutierrez, A.: «Impacto comparado de la IA en la Administración de Justicia. La Guía Práctica de la Inteligencia Artificial». Nº 5, 2025. Aranzadi La Ley 1–32.
Satterthwaite, M.: Informe sobre la Independencia de los magistrados y abogados. AGNU, 2025, pp. 1‑23.
Tascón López, R.: «Algunas reflexiones sobre la situación del proceso social tras la Ley Orgánica 1/2025, 2 de enero, de medidas en materia de eficiencia del servicio público de justicia». Revista Crítica de Relaciones de Trabajo, Laborum. n 15º, vol. 2º, 2025, pp 29–52.
