Algoritmos e inteligencia artificial. Implicaciones jurídico-laborales: Un enfoque desde la perspectiva de los derechos

Algorithms and artificial intelligence. Legal-labor implications: An approach from a rights perspective

Cita Sugerida: MONEREO PÉREZ, J.L., RODRÍGUEZ ESCANCIANO, S. y RODRÍGUEZ INIESTA, G. «Algoritmos e inteligencia artificial. Implicaciones jurídico-laborales: Un enfoque desde la perspectiva de los derechos». Revista Crítica de Relaciones de Trabajo, Laborum. nº 8 (2023): -37.

“Toda época que llega a asumir conciencia de sí misma y conquista esa conciencia a través de una real profundización, no como inmediata y superficial conciencia, advierte que se haya en crisis e identifica su propia transitoriedad con su calificación en crisis. Para cada época, encontrarse y sentirse en crisis significa encontrarse en la historia, o mejor aún en el tiempo, o sea, ligada a un término escuetamente humano”

Resulta un hecho evidente la progresiva y vertiginosa incorporación de la lógica algorítmica en la empresa de todo tamaño y condición, cambiando de forma sustancial los modos y modelos de trabajo. No tan evidente resulta, en cambio, que la mentada aplicación de aquellas herramientas automatizadas esté siendo llevada a cabo con el debido respeto a bienes y valores jurídicamente relevantes y consagrados en preceptos internacionales, constitucionales y legales2, lo cual fuerza a los estudiosos de la ciencia jurídica a elaborar nuevos conceptos y nuevos derechos --de sucesivas generaciones3-- llamados a combatir cualquier peligro o abuso de nuevo cuño, por más que, como bien es sabido, el Derecho siempre haya de transitar un paso por detrás de la realidad social que trata de normar.

La incorporación de la lógica algorítmica en la empresa impacta en las relaciones laborales tanto en su vertiente individual como en su vertiente colectiva/sindical. Incide en el ejercicio de todos los derechos y libertades fundamentales tanto en los genéricos (o inespecíficos) como los de carácter eminentemente social (derechos sociales de “desmercantilización”) de la persona que trabaja4. Un dato a retener es que el ejercicio de los derechos fundamentales están condicionados por las circunstancias históricas del momento; nuevas tecnología, uso de la inteligencia artificial, plataformas digitales, teletrabajo, el mismo uso de las nuevas tecnología para establecer redes de empresas, en particular de las redes de subcontratación, etcétera, con la posibilidad de utilizarlas para finalidades limitadoras del ejercicio del ejercicio de los derechos fundamentales y el reforzamiento de los poderes privados (y públicos). Ello determinaría una neutralización del que ha sido denominado “constitucionalismo de derecho privado social”, que suponía garantizar la efectividad de los derechos fundamentales en el seno de las relaciones laborales y en especial dentro de las organizaciones productivas, que por su estructuración en el modelo económico actual tienden a ser típicas estructuras de dominación de las personas5. En unas relaciones laborales que por definición son relaciones de poder, no es de extrañar que se localice el conflicto entre el capital y trabajo como fuerzas productivas. Y en este sentido el Derecho del Trabajo ha de cumplir su función. Desde el punto de vista de la política del Derecho se ha tratado de institucionalizar y procedimentalizar los conflictos del trabajo exteriorizados a través de distintos cauces jurídicos e institucionales; todos ellos encaminados, de algún modo, a resolver (o prevenir) la conflictividad vinculada al mundo del trabajo. Esas institucionalización y procedimientalización comporta su reconducción a un orden preconstituido o por constituir “ex novo” dentro de la vías previstas por el mismo ordenamiento jurídico. En general, y no sólo para el ordenamiento laboral, el Derecho es una gran maquinaria jurídico-institucional predispuesta para resolver conflictos social y políticamente relevantes para un determinado orden social de convivencia. De ahí que donde no hay conflicto no hay Derecho, porque sencillamente se hace innecesario.

Pero para ello el Derecho ha de ser autorreflexivo, flexible y dinámica, porque sólo así será capaz de responder y modular una realidad social siempre cambiante. En este sentido se percibe cómo el ordenamiento jurídico en general y en particular el ordenamiento jurídico-laboral, actúa con un cierto retraso en esa respuesta autorreflexiva. Este el caso del tratamiento jurídico del impacto de las nuevas tecnologías digitales y muy especialmente el de la Inteligencia Artificial y Bigdata. Los mismos instrumentos constitucionales y de valor fundamental están atrasados y sería importante renovar el catálogo de los derechos fundamentales garantizando los derechos a la protección de datos y derechos digitales6.

El impacto real que los vertiginosos avances en el ámbito de la Inteligencia Artificial y Bigdata incorporados a los sistemas productivos, están teniendo ya en los derechos fundamentales de las personas trabajadoras a la protección de sus datos personales y a su intimidad. Por ello mismo, es necesario elaborar una lectura integradora de estos avances en el ámbito de las relaciones laborales, que sea necesariamente respetuosa con los derechos fundamentales de las personas trabajadoras, lo que supone desterrar aquella que responda a la búsqueda incontrolada y sin atención a principios y valores del incremento de la competitividad y beneficio empresarial7.

Y es que el “capitalismo de la vigilancia” incrementa la penetración de los poderes del mercado sobre las personas: los poderes de los empresarios que utilizan las tecnología como instrumentos de dominio y no sólo como posibles –necesarios- instrumentos al servicios de la innovación, la productividad y la calidad del empleo. Se ha podido señalar, al respecto, que el capitalismo de la vigilancia supone una ruptura respecto de la anterior trayectoria histórica del capitalismo de mercado en tres sentidos fundamentales: a) enfatiza en su derecho a la libertad absoluta y al conocimiento sin trabas de los datos y vida de las personas; b) abandona las tradicionales reciprocidades orgánicas con las personas. c) el fantasma de la vida en la colmena delata un proyecto social colectivista de mercado sustentado por una inferencia radical y por su expresión material en el “Gran Otro”. Ello supone que no se está ante una fase más del capitalismo, sino ante un cambio de paradigma de organización de la sociedad del mercado y de la organización de las empresas y de los sistemas de relaciones laborales8. El riesgo es que se anteponga las nuevas tecnologías digitales invasivas en la lógica del mercado (que es la lógica también de los algorismos tal y como son utilizados) anteponiendo la racionalidad del mercado a las bases de la democracia dentro y fuera de las organizaciones productivas. La lucha competitiva entre “capitalistas de la vigilancia” puede conducir a una búsqueda compulsiva de la totalidad (en la información y en el conocimiento de las personas al servicio de modelos predictivos y conductuales) al margen de los derechos y valores fundamentales que deben presidir un sistema democrático de relaciones laborales. En una lógica dominio y acumulación del poder en continuo aumento. Es poder de vigilancia y control instrumental puede facilitar la expropiación práctica de los derechos fundamentales a través de una nueva arquitectura global de modificación conductual prefigurada predictivamente a través de la utilización de los datos y las fórmulas algorítmicas. Este uso perverso de la inteligencia artificial expresa el potencial lado oscuro de la presente “4º-5ª Revolución industrial” basada en utilización de las tecnología digitales como palancas de poder en las relaciones laborales.

La inteligencia artificial, como sistema tecnológico digital puede definirse como “sistema software (y posiblemente también hardware), diseñados por humanos que, dado un objetivo complejo, actúan en el entorno físico o digital, percibiendo el entorno a través de la adquisición de datos, interpretándolos y procesando la información derivada de estos datos, para decir la(s) mejore(s) acción(es) a realizar para alcanzar el objetivo perseguidos”. Es de señalar que en contraposición con la concepción estrictamente economicista que han presidido los enfoques de la llamada “Cuarta Revolución”, se ha plantado otra concepción más humanista de la “Industria 5.0”, que hace referencia a un entendimiento más integrador entre las innovaciones que han emergido en el ámbito de la digitalización (señaladamente a través de las áreas de la Inteligencia Artificial y Bigdata) y los valores de humanización y orientación social que han de informar su diseño e implantación. Se apunta hacia una posible corrección de la lógica economicista estricta para focalizarla desde el punto de vista de las personas y atendiendo al criterio de sostenibilidad9. En esa dirección, se sitúa el Parlamento Europeo, Consejo y Comisión Europea, en su “Declaración conjunta sobre los Principios y Derechos Digitales en la Década Digital” (2023, C23/01). En este enfoque transversal de los derechos fundamentales es relevante, para un plena efectividad, utilizar en la planificación del uso y del impacto de las nuevas tecnologías digitales no sólo el principio de prevención, sino también –adicionalmente- el principio de “precaución”; y ambos bajo el prisma del principio de responsabilidad10. Lo cual resulta relevante para poder calificar, a determinados efectos, algunos tipos de Inteligencia Artificial de elevado peligro o de alto riesgo para las personas, las organizaciones, el medio ambiente o el orden geopolítico a distintos nivel. Resulta significativo que la primera normativa europea proyectada sobre inteligencia artificial adviertan sobre los distintos niveles de peligro y una vez establecidos implicarán una mayor o menor regulación o un modelo de regulación diversificado11.

Conocido es de todos que la innovación tecnológica, origen de la denominada quinta revolución industrial, encuentra pilar y exponente fundamental en la extensa e intensa utilización de las potencialidades que para la productividad empresarial conlleva la inteligencia artificial12, construida a partir de modelos matemáticos nutridos desde el manejo de un enorme volumen de datos con capacidad para generar conocimiento propio y tomar decisiones por sí mismos, mediante los denominados aprendizaje automático (machine learning) y aprendizaje profundo (deep learning)13.

El big data (referido a la recopilación, análisis y acumulación constante de grandes cantidades de datos procedentes de diferentes fuentes y objeto de un tratamiento automatizado)14 y los algoritmos (entendidos como operaciones matemáticas que permiten dar solución a un problema) son los dos elementos esenciales de las novedades tecnológicas actuales que se engloban bajo el rótulo de la inteligencia artificial, definida como “un conjunto de tecnologías dedicadas a replicar en máquinas procesos cognitivos parecidos a los humanos para permitirles aprender y adaptarse por sí mismas a un entorno concreto”15.

En el mundo de la empresa, los algoritmos desempeñan un papel importante, no solo en la identificación de patrones útiles en conjuntos de datos, sino también a la hora de tomar decisiones que dependen de dichos patrones sin límite de extensión y sin sufrir demoras16. Permiten extraer información privilegiada sobre mercados, clientes, marketing, ventas, desarrollo de productos u operaciones de servicios, como atención al cliente y soporte administrativo o modelado de riesgos, al tiempo que facilitan extraer también parámetros significativos de comportamiento de los trabajadores17. De ahí que las empresas recurran cada vez más a la inteligencia artificial en la gestión de personas18, hasta el punto de que el 40 por 100 de los departamentos de recursos humanos utilizan aplicaciones mejoradas precisamente mediante inteligencia artificial apostando además por un aumento de la inversión ad futurum en este tipo de adelantos19.

Buena muestra de esta tendencia puede encontrarse en los procesos de selección de personas trabajadoras donde las empresas llevan a cabo el reclutamiento sin intervención humana o con una intervención mínima mediante sistemas automatizados. Son los softwares especializados los que realizan el primer filtro de personal parametrizando una serie de palabras clave relacionadas con la empresa o el puesto vacante e, incluso, en muchos casos llevan a cabo la secuencia completa determinando la identidad de la persona recomendada. Algo parecido ocurre también en la evaluación y control de los trabajadores, pues es un programa quien toma las decisiones de organización de la empresa en función de los resultados obtenidos por dicho soporte. El algoritmo impone, además, el ritmo de trabajo y no solo mide automáticamente la velocidad y la eficiencia de cada trabajador individual, sino que decide premios o castigos e incluso si el trabajador debe o no continuar en la empresa20.

A la luz de tales reflexiones, cabe afirmar sin peligro de errar que el uso generalizado de algoritmos e inteligencia artificial en la toma de decisiones empresariales abarca todos los momentos y aspectos de la relación laboral, desde la incorporación de efectivos hasta la extinción del vínculo, pasando por la supervisión de las actividades de los empleados a través de evaluaciones cuantitativas y cualitativas, sin olvidar tampoco su virtualidad en los aspectos de gestión ordinaria como, en una lista no exhaustiva, determinación de la jornada, horario, vacaciones, descansos, tareas a realizar, retribuciones, ascensos, modificaciones sustanciales, etc. Como con acierto se ha dicho, los algoritmos permiten pasar de realizar un uso defensivo de la tecnología por parte del empresario destinado a comprobar que los trabajadores cumplen con sus obligaciones a desempeñar un uso directivo, pues seleccionan candidatos, organizan los horarios, planifican tareas, determinan cuántos trabajadores son necesarios en cada momento, calculan el ritmo de trabajo óptimo, dan instrucciones, evalúan el desempeño y recompensan o disciplinan a los trabajadores.

Como es fácil advertir, estas herramientas, con un ingente potencial para tratar datos y desarrollar inferencias y correlaciones, conllevan aparejadas enormes posibilidades de progreso en la competitividad y rentabilidad empresarial, pero a la vez retos importantes para los derechos fundamentales de las personas trabajadoras y para la igualdad y no discriminación a los que es necesario hacer frente21.

El poder de dirección de la empresa se ve sobredimensionado gracias a la eliminación del factor humano y el análisis masivo de datos facilitados por la inteligencia artificial22. El efecto más relevante de esta disrupción en el ámbito de las relaciones laborales consiste en haber abierto un nuevo escenario conflictivo, en el que las partes siguen siendo los litigantes de siempre, trabajador y empresario, pero la controversia ya no suscita un problema bilateral de legalidad, de contractualidad o de colisión entre dos categorías de derechos constitucionales (derechos fundamentales versus libertad de empresa), sino que interfiere en la escena un tercero (el algoritmo) que convierte en trilateral el panorama descrito, pues no hace sino reforzar la superior posición contractual y precontractual del titular de la organización empresarial al permitirle un ejercicio más rápido y mejor fundado en términos de eficiencia económica de su poder decisional, consiguiendo implantar un sistema de exigencia máxima a cada uno de los empleados23.

En esta tesitura, se achaca al algoritmo la producción de resultados incompatible con determinados valores o principios, pues la búsqueda de la eficiencia productiva no siempre tiene en cuenta la proporcionalidad o la razonabilidad. Aunque los ingenieros de software pretendan definir parámetros de análisis de minería de datos desde estándares objetivos, lo cierto es que los valores humanos están incrustados en cada paso en su diseño, por lo que el establecimiento de sistemas automatizados de decisión y el tratamiento de los datos que les sirven de base pueden encontrarse sesgados en su origen24. La desconfianza hacia la inteligencia artificial puede derivar, así, de un diseño intencionadamente lesivo o por los sesgos discriminatorios derivados del tipo de información utilizada. Desde tales premisas, el uso de la inteligencia artificial en el ámbito de las relaciones laborales provoca problemas de impacto muy inquietante, porque, si bien en teoría los modelos matemáticos debieran conducir a la equidad en dichas relaciones, en realidad no ocurre así. Ya solo por el hecho de trabajar con probabilidades y no con certezas, no es descartable que se produzcan errores, pero, si además se trabaja con claros prejuicios sobre las características del candidato o trabajador, o se utilizan datos no inclusivos, las probabilidades de sesgo o discriminación son inevitables. Existe, así, el riesgo de que los sistemas de inteligencia artificial reflejen, incluso de forma involuntaria, los sesgos de sus programadores humanos, ya que, si se parte exclusivamente de la idea la productividad y el rendimiento laboral del programador, es probable que se favorezca a los más capaces o inteligentes, descartando o penalizando a candidatos o trabajadores con discapacidad o con características que difieren de las expectativas de los programadores. En este sentido, el algoritmo no sólo puede afectar a las oportunidades de empleo, de promoción laboral o de estabilidad en el empleo si se utilizan criterios sesgados, sino que puede socavar la dignidad de la persona, porque el autómata toma el sitio del empleador a generando resultados contrarios a la honorabilidad y estabilidad en el empleo del trabajador, sin que éste pueda participar en el proceso de toma de decisión, ni impugnar tal decisión25.

Además, los recelos se vinculan también con la dignidad de las personas trabajadoras, en conexión implícita con la salud mental, pues los procedimientos automatizados suelen considerarse fríos o inhumanos26. El objetivo último de conseguir la conveniente adaptación de cada asalariado a su puesto de trabajo y, a la postre, una óptima planificación empresarial a medio y largo plazo capaz de incrementar los márgenes de beneficio provoca consecuencias negativas sobre valores y bienes esenciales de las personas trabajadores27, máxime cuando estos modelos digitalizados y automatizados priorizan a los trabajadores mejor calificados a través de la aplicación de precisas métricas despersonalizadas que permiten, como ya consta, adoptar decisiones automatizadas relativas a selección o contratación, distribución de tareas, configuración de horarios, fijación de salarios, promociones o, incluso, despidos28 sin tener en cuenta determinados factores personales como puede ser el fallecimiento o enfermedad de un familiar, un proceso de divorcio, etc. y sin posibilidad de defensa29.

El Grupo de Trabajo del art. 2930, actual Comité Europeo de Protección de Datos, ya subrayó las amenazas de estas fórmulas señalando que: “la elaboración de perfiles y las decisiones automatizadas pueden plantear riesgos importantes para los derechos y libertades de las personas que requieren unas garantías adecuadas. Estos procesos pueden ser opacos. (…) La elaboración de perfiles puede perpetuar los estereotipos existentes y la segregación social. Asimismo, puede encasillar a una persona en una categoría específica y limitarla a las preferencias que se le sugieren (…) En algunos casos, la elaboración de perfiles puede llevar a (…) una discriminación injustificada”.

Ahora bien, una vez advertidas las tensiones y preocupaciones críticas que las tecnologías digitales basadas en la inteligencia artificial plantean para los derechos de los trabajadores, no hay que soslayar que el imparable y no siempre previsible cambio tecnológico catalizado desde la inteligencia artificial debe superar la ingenuidad de oponerse sin más al proceso para apostar por una transición justa y equitativa, marcada por la utilidad de un buen gobierno de los adelantos técnicos en el marco empresarial capaz de encontrar un equilibrio entre la lógica económica y la atribución de derechos sociales de ciudadanía a la persona trabajadora a través del diseño de un estatuto jurídico verdaderamente protector. La propia Comisión Europea parece lanzar un mensaje optimista sobre la posibilidad real de una revolución industrial 4.0 (o, mejor, revolución industrial o tecnológica 5.0, “por su carácter híbrido de personas y máquinas”31), gobernada por la gestión algorítmica y las decisiones de la inteligencia artificial, bajo el paradigma del trabajo decente o de la dignidad y bienestar de la persona trabajadora32.

El problema es que, pese a que ha habido avances normativos importantes, todavía a día de hoy no se han incluido mecanismos legales efectivos tendentes a limitar un posible uso abusivo de la inteligencia artificial dentro de un modelo de competitividad empresarial basado en la calidad del trabajo en la línea marcada por las iniciativas institucionales de la OIT33.

En los últimos años se han intensificado los esfuerzos por establecer algunas reglas en el funcionamiento de la lógica algorítmica tanto a nivel internacional como interno, a saber:

1.-La Comisión Mundial de la OIT en el documento titulado “Trabajar para un futuro más prometedor”, elaborado con motivo del centenario de la OIT, que se conmemoró en el año 2019, aboga por un “enfoque de la inteligencia artificial ʻbajo control humanoʼ que garantice que las decisiones finales que afectan al trabajo sean tomadas por seres humanos y no por algoritmos”.

2.-El Consejo Europeo, en abril de 2022, aprobó la Ley de Gobernanza de Datos, que permitirá a las empresas “acceder a los datos a un coste más bajo y con menos barreras de entrada al mercado”. El objeto de este documento “es generar confianza en el intercambio de datos al hacerlo más seguro, fácil y en línea con la legislación sobre protección de datos. Esto se logrará a través de diferentes técnicas, como la anonimización de datos, la puesta en común de datos y acuerdos jurídicamente vinculantes firmados por los reutilizadores de datos”. Contando con tal precedente, el Consejo Europeo ha presentado un borrador de Convenio Internacional sobre Inteligencia Artificial, en el que se establecen un conjunto de principios, normas y derechos destinados a garantizar que el diseño, el desarrollo y la puesta en servicio de sistemas de inteligencia artificial sean plenamente compatibles con el respeto de los derechos humanos, el funcionamiento de la democracia y la del Estado de Derecho, entre los cuales se recogen los principios de igualdad y lucha contra la discriminación, privacidad y protección de datos personales, rendición de cuentas y responsabilidad, transparencia y supervisión, seguridad, innovación segura y consulta pública”. Tampoco cabe olvidar, como precedente, la Recomendación del Comité de Ministros del Consejo de Europa a los Estados miembros sobre los impactos de la inteligencia artificial sobre los derechos humanos de 8 de abril de 2020, donde se insta a los Estados miembros a adoptar un enfoque de precaución y exigir el rechazo de determinados sistemas cuando su despliegue conlleve un alto riesgo de daños irreversibles o cuando, debido a su opacidad, el control y la supervisión humanos se vuelvan impracticables34.

3.- En tramitación se encuentra actualmente la Propuesta de Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial, adoptada por la Comisión el 21 de abril de 202135, que abarca varias actuaciones: desde la prohibición absoluta de las aplicaciones de inteligencia artificial que generen riesgos inaceptables; la obligatoria evaluación de conformidad para las aplicaciones de alto riesgo; y, finalmente, unas obligaciones de transparencia para las aplicaciones de riesgo limitado. En este sentido, de conformidad con su art. 9 y la remisión al Anexo III, se consideran de alto riesgo “los sistemas de inteligencia artificial que se utilizan en el empleo, la gestión de los trabajadores y el acceso al autoempleo, sobre todo para la contratación y la selección de personal; para la toma de decisiones relativas a la promoción y la rescisión de contratos; y para la asignación de tareas y el seguimiento o la evaluación de personas en relaciones contractuales de índole laboral, dado que pueden afectar de un modo considerable a las futuras perspectivas laborales y los medios de subsistencia de dichas personas”. Las razones para efectuar tal encuadramiento son los riesgos que presentan para la igualdad y no discriminación, la intimidad y la protección de datos de las personas trabajadoras: “dichos sistemas pueden perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, ciertos grupos de edad, personas con discapacidad o personas de orígenes raciales o étnicos concretos o con una orientación sexual determinada, durante todo el proceso de contratación y en la evaluación, la promoción o la retención de personas en relaciones contractuales de índole laboral. Los sistemas de inteligencia artificial empleados para controlar el rendimiento y el comportamiento de estas personas también pueden afectar a sus derechos a la protección de los datos personales y a la privacidad”36. Cualquier sistema cuyo propósito sea la priorización o selección de entre los trabajadores ya sea para el acceso al empleo, a la formación profesional, a la promoción profesional, a la evaluación del desempeño profesional o la extinción de la relación laboral deberá someterse al sistema de garantías de la regulación comunitaria. Así, una vez calificado un sistema de aplicación al ámbito laboral como de alto riesgo, fabricante y usuario han de cumplir una serie de obligaciones, entre las que ocupa un lugar destacado el principio de transparencia y explicabilidad, no en vano el art. 13.1 exige que los sistemas de inteligencia artificial considerados de alto riesgo se diseñen y desarrollen de un modo que garantice que funcionan con un nivel de transparencia suficiente para que los usuarios interpreten y utilicen correctamente su información de salida. Por ello, estos sistemas han de ir acompañados de las instrucciones de uso correspondientes en un formato digital o de otro tipo adecuado, las cuales incluirán “información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible por los usuarios” (art. 13.2)37.

El proyectado Reglamento pretende afrontar, en resumen, la opacidad, la complejidad, el sesgo, cierto grado de imprevisibilidad y un comportamiento parcialmente incómodo de ciertos sistemas de inteligencia artificial para garantizar su compatibilidad con los derechos fundamentales, sin que ello implique en ningún caso obstaculizar el desarrollo tecnológico ni aumentar de manera desproporcionada el coste de introducir soluciones de inteligencia artificial en el mercado38.

Esta propuesta de Reglamento ha venido precedida de sendos documentos: El Libro Blanco de inteligencia artificial publicado el 19 de febrero de 2020 basado en la configuración de la inteligencia artificial al servicio de las personas y como fuerza positiva para la sociedad39 y la Guía de Directrices éticas para una inteligencia artificial fiable bajo los principios de respeto a la autonomía humana, prevención del daño, equidad y explicabilidad, unidos a los de supervisión humana, solidez y seguridad técnica, privacidad y gobernanza de datos, transparencia, diversidad, equidad y no discriminación, bienestar ambiental y social y responsabilidad40.

4.-Además de la importancia de esta futura norma, en el plano más específicamente laboral, tampoco cabe olvidar la Propuesta de Directiva relativa a la mejora de las condiciones laborales en el trabajo en plataformas digitales, que incorpora reglas sobre “gestión algorítmica”, con una apuesta decidida por la transparencia a través de un derecho de información, medidas de “supervisión humana de los sistemas automatizados” (art. 7) y una “revisión humana de decisiones importantes” (art. 8)41.

5.- Asimismo, tampoco procede silenciar algunas iniciativas europeas de interés sobre la materia de momento de “soft law”, pudiendo aludir a:

A) La Carta Europea de Inteligencia Artificial en los sistemas judiciales, que parte del necesario respeto a cuatro principios básicos42: 1) a los derechos humanos y no discriminación, para cuya garantía es preciso adoptar esta óptica desde la fase de concepción hasta la de aplicación, de forma que los resultados garanticen los derechos de la CEDH y el Convenio número 108 sobre protección de datos personales del Consejo de Europa; 2) a la seguridad y calidad, garantizando la integridad de los datos en todas las etapas del procesamiento; 3) a la transparencia de las metodologías y técnicas utilizadas en el procesamiento de las decisiones judiciales; 4) al control del usuario, traducido en el derecho a ser informado en un lenguaje claro y comprensible de la naturaleza vinculante o no vinculante de las soluciones propuestas, las diferentes opciones y la posibilidad de acceso a un tribunal.

B) El Dictamen del Comité Económico y Social Europeo sobre “Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones — Generar confianza en la inteligencia artificial centrada en el ser humano”43--, que ha recordado “la necesidad de consultar e informar a los trabajadores y sus representantes a la hora de introducir sistemas de inteligencia artificial que pudieran provocar cambios en la organización del trabajo, la vigilancia y su control, así como en los sistemas de evaluación y contratación de los trabajadores”.

C) La Resolución del Parlamento Europeo de 3 de mayo de 2022, sobre la inteligencia artificial en la era digital44, que recoge una hoja de ruta de la inteligencia artificial para la Unión Europea, con aprobación de varias propuestas para el desarrollo de la inteligencia artificial a largo plazo. Y ello, sobre la base de lo expuesto en un Informe final de la Comisión especial sobre Inteligencia Artificial en la Era Digital (AIDA), que pretende conseguir una posición común a largo plazo que garantice los valores y objetivos principales de la Unión Europea sobre la inteligencia artificial, al tiempo que dé continuidad a los esfuerzos legislativos de la Unión Europea en este marco con el fin último de que la inteligencia artificial aporte enormes beneficios a todos los ámbitos de la Unión Europea, desde la transición ecológica y la salud hasta la industria, la gestión pública, la agricultura y –por lo que aquí interesa-- el mercado de trabajo45.

D) La Resolución del Parlamento Europeo, de 20 de octubre de 2020, con recomendaciones destinadas a la Comisión sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas46, que considera que, dentro de los límites de lo técnicamente posible, los desarrolladores, los desplegadores y los usuarios deben garantizar que la inteligencia artificial, la robótica y las tecnologías conexas se despliegan y utilizan respetando plenamente los requisitos de transparencia y permitiendo la auditoría y trazabilidad. Además, las medidas de transparencia deben ir acompañadas, siempre que sea técnicamente posible, de explicaciones claras y comprensibles sobre los datos utilizados y el algoritmo, así como sobre su finalidad, sus resultados y sus riesgos potenciales47.

E) El Programa Europeo Digital (2021-2027), que insiste en la necesidad de garantizar la transparencia en la toma de decisiones de algoritmos, apostando por la implantación de auditorías como técnica de monitoreo de los procesamientos algoritmos para tutelar su ajuste al ordenamiento jurídico y garantizar el respeto de un marco ético, además de informar, formar y sensibilizar a la ciudadanía48.

F) La Declaración Europea sobre los Derechos y Principios Digitales, que parte de la promoción de la transformación digital centrada en las personas, el fomento de las capacidades digitales, el diseño de los productos digitales bajo el paradigma de la sostenibilidad ambiental, la privacidad y la protección de datos, así como la implantación de unas condiciones de trabajo justas y equitativas, saludables y seguras, contando con una protección adecuada en el entorno digital y en el puesto de trabajo físico con independencia de la modalidad o la duración del empleo.

G) La Brújula Digital 203049, que pretende aplicar políticas digitales que capaciten a las personas y las empresas para aprovechar un futuro digital centrado en el ser humano, sostenible y más próspero, apostando por la dotación de infraestructuras y la transformación digital de las empresas y los servicios públicos.

H) Todo este recorrido ha desembocado en la Propuesta de Directiva de Responsabilidad por Inteligencia Artificial, de 28 de octubre de 2022, de la que destacan la materia de la prueba para acreditar y reparar los daños generados por sistemas de inteligencia artificial calificados de alto riesgo; o la presunción de relación de causalidad en caso de culpa —debido a la dificultad de la prueba por los demandantes—, la cual tiene carácter iuris tantum porque es refutable por el demandado50.

I) En fin, es significativo que el Acuerdo Marco de los Interlocutores Sociales europeos sobre Digitalización (2020)51, contemple la posibilidad de introducción de la inteligencia artificial al mundo laboral dentro del poder de dirección empresarial sin perjuicio del derecho a la transparencia y el derecho del trabajador de solicitar la intervención humana y de impugnar la decisión.

Varios son, de un lado, los textos programáticos existentes en España sobre la materia, pudiendo mencionar sin ánimo exhaustivo:

1.-La Estrategia Nacional de Inteligencia Artificial52, que constituye uno de los ejes de la Estrategia España Digital 202653. Su objetivo general es proporcionar un marco de referencia para el desarrollo de la inteligencia artificial con la finalidad de mejorar el tejido productivo español impulsando su competitividad, en el entendimiento de que esa inteligencia artificial debe ser inclusiva, sostenible y centrada en la ciudadanía. Contempla entre sus objetivos “el establecimiento de marcos regulatorios que delimiten y guíen el diseño de la inteligencia artificial para que las aplicaciones resultantes respeten los derechos de la ciudadanía”.

2.- La Carta de Derechos Digitales54, adoptada por el Gobierno en junio de 2021 en el marco de la citada Estrategia, recoge un conjunto de principios que deben inspirar la aprobación de los proyectos normativos y el desarrollo de las políticas públicas, con la finalidad de garantizar los derechos individuales y colectivos a los que también se refiere la citada Carta en el contexto de la nueva realidad digital. En concreto, en el ámbito laboral, reconoce los siguientes derechos a las personas trabajadoras “de acuerdo con la normativa vigente”: 1º) “La protección de sus derechos a la intimidad personal y familiar, el honor, la propia imagen, la protección de datos y el secreto de las comunicaciones (…) en el caso de “la utilización de herramientas de monitoreo, analítica y procesos de toma de decisión en materia de recursos humanos y relaciones laborales, y en particular, la analítica de redes sociales. En caso de uso de tales dispositivos o herramientas se debe informar a la representación legal de las personas trabajadoras sobre los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo y el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”. 2º) “La garantía de sus derechos frente al uso por la entidad empleadora de procedimientos de analítica de datos, inteligencia artificial y, en particular, los derechos previstos en la legislación respecto del empleo de decisiones automatizadas en los procesos de selección de personal”.

3.- El Programa Nacional de Algoritmos Verdes55, acordado en octubre de 2021, en el marco de la Estrategia Nacional de Inteligencia Artificial, aplicando la inteligencia artificial en clave de sostenibilidad.

De otro lado, por lo que se refiere a la regulación heterónoma laboral propiamente dicha, cabe señalar que este sector del ordenamiento jurídico ha prestado escasa atención a la gestión algorítmica y, cuando lo ha hecho, se ha limitado a indicar que la utilización de estas tecnologías es un indicio de dependencia, de inclusión del trabajador en el círculo rector de dirección y organización empresarial en el trabajo en plataformas (Ley 12/2021)56, a reconocer al comité de empresa el derecho a ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles (art. 64 ET)57 o a alertar sobre el potencial discriminatorio de la inteligencia artificial apuntando algunas ideas sobre mecanismos para la prevención de la discriminación (minimización de sesgos, transparencia de los algoritmos, evaluaciones de impacto) y su control (rendición de cuentas), tanto en su diseño como en su entrenamiento (art. 23 Ley 15/2022)58.

En fin, el V Acuerdo para el empleo y la negociación colectiva de 2023 exige que el despliegue de sistemas de inteligencia artificial en las empresas deberá seguir el principio de control humano respecto a la inteligencia artificial y ser seguro y transparente. Mostrando la necesidad de que la negociación colectiva entre efectivamente en la implantación, regulación y control del uso de las nuevas tecnología digitales en las organizaciones productiva. En este sentido puede aprovecharse la flexibilidad del instrumento negocial no sólo para introducir formas de flexibilidad interna y de gestión en los procesos de tomas de decisiones, sino también como cauce adecuado para asegurar el pleno ejercicio de los derechos y libertades fundamentales en los lugares de trabajo y la correspondiente limitación de los poderes privados que se han visto reforzados con las posibilidad predictivas de comportamientos y la vigilancia y control que permiten las nuevas tecnologías59.

El uso de algoritmos digitales en el mercado del trabajo implica de una manera u otra el manejo y procesamiento por parte de las empresas de datos masivos de las personas trabajadoras. Esta tecnología de última generación permite recopilar una inmensidad de datos y procesos de forma rápida y sencilla, tomando decisiones de manera automatizada sobre tal soporte (people analytics), posibilitando almacenar y tratar una cantidad enorme de información relativa a la persona del trabajador entremezclada con el quehacer laboral60. Desde la premisa de que el acopio de datos es la antesala de la propia parametrización de cualquier sistema inteligente, no cabe olvidar el elevado coste que conlleva en términos de debilitamiento de los derechos fundamentales (genéricos y específicamente laborales) de las personas trabajadoras. La información más inocente puede servir de proxy para revelar aspectos verdaderamente sensibles. Así, existe evidencia de que el código o dirección postal es una variable reveladora del origen racial de las personas y de su capacidad económica. Igualmente, la distancia entre el domicilio y el trabajo permite deducir la renta de una persona teniendo en cuenta los astronómicos precios de la vivienda en determinados espacios de muchas ciudades61. Es más, si se combinan diferentes datos, aparentemente inocuos, los hallazgos conseguidos pueden aportar una semblanza integral sobre el devenir vital de la persona trabajadora. E incluso, en un listado meramente ejemplificativo, también son frecuentes los sistemas automatizados de detección de emociones (psicogenia), que permiten anticipar conductas, predecir el estado anímico y emocional o detectar rasgos psicológicos o enfermedades.

Por tanto, cobra especial relevancia la necesidad de proteger el interés legítimo de estas personas de controlar sus datos personales insertos en los sistemas de comunicación empresariales porque sólo así van a poder evitar una afectación negativa a sus intereses profesionales. A tal fin, resulta del máximo interés que el responsable del tratamiento, in casu, el empresario, lleve a cabo un acopio de datos respetuoso, aplicando las medidas técnicas adecuadas para cumplir con la normativa de protección de datos en todos los momentos de la relación laboral (acceso, desarrollo y extinción)62.

En concreto, dentro del sistema jurídico de protección de datos, el art. 22 RPD se refiere a las “decisiones individuales automatizadas, incluida la elaboración de perfiles”, imponiendo ciertas exigencias y cautelas.

En su apartado primero, el art. 22 RPD indica que “todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado cuando pueda producir efectos jurídicos sobre su persona”, como pudiera ser, en paradigmático ejemplo, decisiones que denieguen a una persona una oportunidad laboral o la coloquen en gran desventaja63.

Es más, en una primera aproximación, se podría entender que este es el caso de aquellas decisiones automatizadas relacionadas con la selección de personal, la evaluación de rendimiento, la valoración de competencias, etc., porque todas ellas tienen un efecto jurídico claro sobre las aspiraciones laborales de la persona trabajadora, ya sea sobre la celebración de un contrato de trabajo, ya sea sobre la modificación de las condiciones laborales, incluida la extinción del vínculo. Otra cuestión es dilucidar el nivel de intervención humana pertinente para revertir la prohibición, surgiendo dos interpretaciones posibles: de una parte, admitir cualquier grado por trivial que fuera; de otra —más correcta--, rechazar cualquier intervención humana que se limite a aplicar la decisión adoptada por el algoritmo sin ningún tipo de influencia no solo en el resultado final sino en los estadios de trámite excluyentes de la posibilidad de seguir participando en un determinado proceso64.

Ahora bien, aun cuando el art. 22.1 RPD prohíbe, como regla general, las decisiones automatizadas sin intervención humana cuando “produzcan efectos jurídicos” o “afecten de forma similar y significativa al interesado”, lo cierto es que seguidamente el art. 22.2 RPD, en su apartado a), permite las decisiones automatizadas “cuando el tratamiento sea necesario para la celebración o la ejecución de un contrato entre el interesado y un responsable del tratamiento”. Este redactado supone un primer obstáculo, pues quedarían excluidas tanto la selección de personal cuanto el desarrollo de la relación laboral65. No obstante, es necesario acotar la expresión “necesario”, en el bien entendido sentido de que el Grupo de Trabajo del art. 29 ha considerado que para entender que la toma de una decisión automatizada es necesaria, el responsable deberá demostrar que es la forma más apropiada para alcanzar el objetivo final, es decir, que no hay maneras menos intrusivas para alcanzar el resultado final, de manera que la intervención humana es imposible dado el elevadísimo número de datos procesados66. Nótese, asimismo, que el art. 28 Ley Orgánica 3/2018, de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDyGDD) admite los perfiles elaborados “para el análisis o la predicción de aspectos referidos a su rendimiento en el trabajo”.

Es más, el apartado c) del art. 22.2 RPD, añade otra excepción, en referencia al “consentimiento explícito del interesado”, que desactiva la prohibición anterior. Dadas las facilidades con las que contaría el empresario a la hora de obtener el placet del trabajador atendiendo a la posición débil de este último en el marco del contrato de trabajo, la Agencia Española de Protección de Datos ha aclarado que el consentimiento sólo se considera válido cuando: 1) la persona trabajadora pueda realmente elegir, sin que haya riesgo de engaño, intimidación, coerción o consecuencias negativas importantes si no se presta; 2) pueda ser retirado por parte de su titular, de ahí que deba incluirse una cláusula expresa en la declaración que se efectúe, en la que la retirada del consentimiento conlleve ninguna desventaja para quienes lo retiren; 3) se ofrezca la posibilidad de no ser otorgado, dando a conocer posibles alternativas67.

Con todo, de la confluencia de ambas acotaciones de excepción a la regla general a las que se refiere el RPD, no cabe deducir sin más la nulidad de una decisión automatizada sin intervención humana, incluida la elaboración de perfiles, si se ha producido en el ámbito de una relación de trabajo o si ha sido consentida, a no ser que se trate de una opción totalmente descartada, de conformidad con el art. 9.1 LOPDyGDD, esto es, cuando el tratamiento con inteligencia artificial vaya referido a datos relativos origen racial, étnico, opinión política, confesión religiosa o filosófica, afiliación sindical, datos genéticos, biométricos, de salud, la vida sexual o la orientación sexual de una persona física68.

El art. 22 RPD recuerda también que si se toman decisiones automatizadas fundadas únicamente en el tratamiento de datos (sin participación humana), el responsable ha de informar al afectado sobre el razonamiento que subyace, aportando detalles sobre la lógica y explicando la importancia y consecuencias del proceso de almacenamiento, con el fin de que este último pueda formular alegaciones e impugnar una decisión final marcada por un sesgo o desviación de carácter discriminatorio69. Este derecho, según interpretación del Grupo de Trabajo del art. 29, implica la facultad de obtener información clara y simple (suficientemente comprensible) sobre el funcionamiento del proceso de elaboración de perfiles o adopción de decisiones de forma automatizada capaz de permitir formular impugnaciones. En concreto, el interesado tiene derecho a recibir información sobre el procesamiento automatizado en tres extremos: 1) qué aspecto va a ser objeto de una decisión total o parcialmente automatizada; 2) la lógica del algoritmo, es decir, los parámetros evaluados y su ponderación; 3) las consecuencias del proceso para la persona afectada70.

Además, el responsable ha de dar noticia al afectado sobre: 1) las categorías de datos que se han utilizado o se utilizarán en la elaboración de perfiles o el proceso de toma de decisiones; 2) por qué tales categorías se consideran pertinentes; 3) cómo se elaboran los perfiles utilizados en el proceso de decisiones automatizadas, incluidas las estadísticas manejadas en el análisis; 4) por qué un determinado perfil es pertinente para el proceso de decisiones automatizadas; y 5) cómo se emplea para una decisión relativa a una concreta persona.

Siguiendo las indicaciones de la Agencia Española de Protección de Datos71, debe facilitarse aquella información que permita entender el comportamiento del tratamiento, y aunque su contenido dependerá del tipo de inteligencia artificial empleada, parece necesario incorporar las siguientes referencias: 1) El detalle de los datos empleados para la toma de decisión, más allá de la categoría y, en particular, información sobre los plazos de uso de los datos (su antigüedad). 2) La importancia relativa que cada uno de ellos tiene en la toma de decisión. 3) La calidad de los datos de entrenamiento y el tipo de patrones utilizados. 4) Los perfilados realizados y sus implicaciones; 5) Los valores de precisión o error según la métrica más adecuada para medir la bondad de la inferencia; 6) La existencia o no de supervisión humana cualificada; 7) La referencia a auditorías, especialmente sobre las posibles desviaciones de los resultados de las interferencias, así como la certificación o certificaciones realizadas sobre el sistema de la inteligencia artificial; en concreto, en el caso de sistemas adaptativos o evolutivos, la última auditoría realizada; 8) En el supuesto de que el sistema de inteligencia artificial contenga información sobre terceros identificados, la prohibición de tratar esa información sin legitimación y de las consecuencias de realizarlo.

Además de la exigencia de una información significativa sobre la lógica aplicada, en línea con la existencia de un “derecho a la transparencia algorítmica”, el art. 22 RPD recoge también la obligación de efectuar auditorías algorítmicas a cargo de los responsables del tratamiento, garantizando la evaluación periódica de los conjuntos de datos, del mismo modo que corresponde también a esos mismos responsables del tratamiento la introducción de procedimientos y medidas adecuados para evitar errores, imprecisiones o discriminaciones.

La referencia a las auditorías se reitera en varios preceptos del RPD, como el art. 28, cuando incluye dentro de las obligaciones del encargado del tratamiento, en el número 3. h), la de poner a disposición del responsable “... toda la información necesaria para demostrar el cumplimiento de las obligaciones establecidas en el presente artículo, así como para permitir y contribuir a la realización de auditorías, incluidas inspecciones, por parte del responsable o de otro auditor autorizado por dicho responsable”; el art. 39, cuando, entre las “funciones del delegado de protección de datos”, señala, en su número 1. b), la de “supervisar el cumplimiento de lo dispuesto en el presente Reglamento, de otras disposiciones de protección de datos de la Unión o de los Estados miembros y de las políticas del responsable o del encargado del tratamiento en materia de protección de datos personales, incluida la asignación de responsabilidades, la concienciación y formación del personal que participa en las operaciones de tratamiento, y las auditorías correspondientes”; el art. 47, dedicado a las “Normas corporativas vinculantes”, cuando dispone en su número 2 la inclusión imperativa entre dichas normas, como mínimo, de “los mecanismos establecidos dentro del grupo empresarial o de la unión de empresas dedicadas a una actividad económica conjunta para garantizar la verificación del cumplimiento de las normas corporativas vinculantes. Dichos mecanismos incluirán auditorías de protección de datos y métodos para garantizar acciones correctivas para proteger los derechos del interesado. Los resultados de dicha verificación deberían comunicarse a la persona o entidad a que se refiere la letra h) y al consejo de administración de la empresa que controla un grupo empresarial, o de la unión de empresas dedicadas a una actividad económica conjunta, y ponerse a disposición de la autoridad de control competente que lo solicite” [art. 47.2.j)]; y el art. 58, que regula en su número 1 los poderes de investigación que corresponden a cada autoridad de control, entre los que se incluye “llevar a cabo investigaciones en forma de auditorías de protección de datos” [artículo 58.1.b)]72.

Por su parte, la Directiva 2019/1152, de 20 de junio, relativa a unas condiciones laborales transparentes y previsibles en la Unión Europea, reconoce el derecho de los trabajadores a ser informados por escrito al comienzo del empleo sobre sus derechos y obligaciones de la relación laboral incluso en período de prueba, pero no se refiere de forma expresa a los sistemas de inteligencia artificial73. Algo distinto sucede en el Anteproyecto de Ley español destinado a la transposición de dicha Directiva74, pues introduce, si bien de forma ambigua e inconclusa, un nuevo art. 8 bis en el ET para señalar la obligación empresarial de “informar a las personas trabajadoras de la utilización de sistemas automatizados de toma de decisiones… A tal efecto, la empresa deberá proporcionar a la persona trabajadora, cuando proceda, la información adicional acerca de dichos sistemas que se disponga reglamentariamente. Esta información deberá trasladarse de forma transparente, en un formato estructurado y de uso común”.

Como ya consta, la utilización de inteligencia artificial basada en un aprendizaje automático sin supervisión o control humano en la toma de decisiones, en lugar de corregir el posible efecto discriminatorio y perjudicial para los derechos fundamentales, lo incrementa, a la vez que dificulta la identificación del elemento que lo desencadena75, máxime cuando en el RPD no existe una protección categórica que garantice los derechos de las personas sujetas a decisiones basadas en algoritmos, ni siquiera a oponerse a que le sea aplicable un algoritmo, pues el marco de la protección de datos anteriormente esbozado limita su alcance al derecho a la información o explicación frente a la elaboración de perfiles76.

Este derecho, reseñado en el mencionado art. 22 RPD, no implica la posibilidad de acceder al algoritmo (concreta fórmula matemática), sino solamente el conocimiento sobre las variables o métricas utilizadas para la elaboración de perfiles o toma de decisiones automatizadas, su ponderación en la ecuación final y las consecuencias laborales que pueden derivarse para la persona77, pero debería incluir también el conocimiento de los datos agregados y los perfiles elaborados78. En definitiva, aunque debería de facilitar una comprensión íntegra, certera y clara de cómo funciona el algoritmo y su impacto en las condiciones de trabajo, el legislador se ha quedado corto en el esbozo de este enunciado.

De ahí el interés de que, junto a la información individual que se deduce del art. 22 RPD y que es directa aplicación en el sistema normativo interno, la normativa vigente incluya un segundo plano colectivo regulado por el art. 64 ET. Así, el art. 64.4 d) ET recoge un principio de información colectiva, confiriendo a la representación legal de la plantilla el derecho a ser informada por la empresa “de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”.

Intentando revertir la opacidad aparejada a los algoritmos, la información ha de permitir entender cómo funciona el algoritmo y su impacto en las condiciones de trabajo“79. La razón última de esta facultad es que los representantes puedan asegurarse de que la tecnología se utiliza de forma precisa, racional, no discriminatoria, proporcionada, legal y ética y a su vez sean capaces de transmitir dicha información a los trabajadores80. La Guía informativa del Ministerio de Trabajo sobre esta regulación entiende que dichos términos deben interpretarse como la obligación de la empresa de proporcionar información referente a, de un lado, las variables y los parámetros, entendidos como la importancia relativa de cada variable en el algoritmo; y, de otro, las reglas e instrucciones, referentes a las pautas de programación que conducen a la toma de la decisión. El propósito de esta Guía y la herramienta que la acompaña es reunir en un único documento las obligaciones y derechos existentes en materia de información algorítmica en el ordenamiento jurídico-laboral español. Esto es, de un lado, señalar las obligaciones de la empresa respecto a la información que debe facilitar a la representación legal de la plantilla y a las propias personas trabajadoras. Y, de otro lado, indicar qué información puede solicitar la representación legal de la plantilla y las propias personas trabajadoras de acuerdo con la normativa vigente.

Es cierto que las personas que componen los órganos de representación están sometidas al deber de sigilo, que habrá de ser reforzado para evitar filtraciones y quiebras de seguridad que pudieran comprometer la competitividad de la empresa o traerle aparejadas responsabilidades si no fuera la propietaria del algoritmo por haber adquirido a un tercero licencia para su uso81. No menos verdad resulta que expresamente se excluyen del deber de información los secretos industriales ex art. 65.4 ET, si bien no con carácter absoluto, pues el art. 2 Ley 1/2019, de 20 de febrero, de secretos empresariales, aclara que la información constitutiva de un secreto industrial se considera lícita, entre otros supuestos, cuando se trate del derecho de los trabajadores a ser informados o consultados conforme al derecho comunitario (e interno, lógicamente). Ahora bien, pese a esta matización, el suministro del algoritmo completo o del código software subyacente es una solución poco probable dado el cuantioso valor económico de tales instrumentos.

De todas formas la reflexión anterior deviene estéril, pues el precepto estatutario aludido en su tenor legal no va tan lejos. Solo exige que se informe de los “parámetros, reglas e instrucciones”, es decir, de las métricas o variables utilizadas en el proceso de decisión82, si bien sería incongruente con este ámbito objetivo ocultar para qué va a ser utilizado el algoritmo, la cantidad y el tipo de datos que está procesando y las consecuencias que puede provocar o ha provocado83. Estos son, por ende, los márgenes con los que juega la transparencia en el art. 64 ET84. Como obstáculo adicional, hay que tener en cuenta que no solo es necesario que las personas representantes de los trabajadores tengan conocimientos tecnológicos suficientes para entender el funcionamiento del sistema, sino que los propios directivos de las empresas han de contar con tales habilidades, pues normalmente se utilizan algoritmos programados y entrenados por terceras empresas, lo cual, por una parte, puede implicar un riesgo de elusión de la responsabilidad empresarial, y, por otra, puede conllevar un mal uso o un desconocimiento de sus impactos nocivos.

Señalar, igualmente, que tampoco exige dicho precepto que el informe sea previo a la introducción del sistema de gestión algorítmica con repercusión laboral, ni simultáneo al cambio o inmediato, ni se dice que deba abrirse un trámite de audiencia, ni de consulta-negociación (que abre un verdadero proceso de negociación con obligación de negociar bajo el principio de la buena fe), que sería la fórmula más pertinente si se atiende a lo previsto en el art. 64.5 f) ET, que reconoce el derecho de los representantes de los trabajadores a emitir informe (conforma de “consulta-informe”) con carácter previo a la ejecución empresarial de la implantación y revisión de sistemas de organización y control del trabajo, estudios de tiempos, establecimientos de sistemas de primas e incentivos y valoración de puestos de trabajo.

Esta falta de garantía legal expresa de un derecho de información previa a la adopción de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificia es merecedora de crítica porque los representantes de los trabajadores se encontrarán de ordinario ante hechos ya consumados, pudiendo actuar tanto sólo “ex posterior”, salvo la posible mejora del derecho de información a través de la negociación colectiva (lo cual, es obvio, sería aconsejable). Por el contrario, debería haberse establecido expresamente en el ET un derecho de información y consulta-negociación previa, de manera que en lugar de establecer una “información-control débil” –como se ha reconocido- se estaría ante un “control reforzado” (con el reconocimiento del derecho de información y consulta previa), que no alcanzaría al derecho de veto.

Con todo, el art. 64 ET no prohíbe la utilización de algoritmos como herramientas de gestión laboral, ni tampoco proscribe las decisiones automatizadas en este ámbito, ni exige la intervención humana en ningún momento del proceso. El propósito es más moderado. No es garantizar la protección del trabajador a posteriori, sino a priori, pero no mediante un trámite de audiencia previo a cada decisión, sino a través de una información más general. El legislador parte de la premisa de que las decisiones algorítmicas basadas en parámetros, reglas o instrucciones netamente objetivas sin sesgos de género, raza, nacionalidad, edad, etcétera y transparentes no provocarán en sí vulneración de derechos ni requerirán posteriormente medidas de corrección. Dicho en otros términos, el art. 64.4.d) ET toma como punto de arranque que el conocimiento de esos parámetros, reglas e instrucciones permitirá anticipar las respuestas del algoritmo y atajar disfunciones, porque el resultado discriminatorio sería provocado por la opacidad del algoritmo, es decir, porque entre esos parámetros, reglas o instrucciones se encuentra alguno que conduce a tal resultado. El derecho a la información permitiría detectarlo y eliminarlo incluso antes de que la gestión algorítmica se introdujera en la empresa85.

En todo caso, la Guía para la aplicación práctica del art. 64 ET promociona la posibilidad de establecer, vía convenio colectivo, la obligación de negociar con los órganos de representación de los trabajadores el diseño y la puesta en marcha de algoritmos en la empresa, considerando este deber incluido en el marco de los procedimientos de consulta previstos en distintos pasajes de la norma estatutaria (despidos colectivos, movilidad geográfica, modificación sustancial de las condiciones de trabajo o expedientes de regulación temporal de empleo). Es más, la obligación de negociar el algoritmo eventualmente utilizado para la determinación de las personas afectadas señala la obligación de las empresas de realizar una evaluación de impacto en aplicación de lo dispuesto en el art. 35 RPD y considera necesario llevar a cabo una auditoría algorítmica en aplicación de lo dispuesto en el art. 14 Ley 31/1995, de 8 de noviembre, de Prevención de Riesgos Laborales86. Ahora bien, son excepcionales hasta el momento los convenios colectivos sensibilizados con esta materia87.

La redacción legal del art. 64 ET ha perdido también la oportunidad de introducir la obligación empresarial de contar con un registro algorítmico donde se incorporarían todas aquellas soluciones informáticas autónomas que tuvieran una afectación sobre la organización del trabajo, susceptible de consulta por las personas trabajadoras y sus representantes88. En este punto, cabe abrir un breve paréntesis para aclarar que, al menos dentro de las Administraciones Públicas, sí existiría el mencionado registro de cumplir lo contemplado en la Estrategia Nacional de Inteligencia Artificial, donde se prevé la existencia de un “registro de sistemas automatizados en la Administración Pública que documente los sistemas automatizados ya existentes y futuros. Una de las tareas llevadas a cabo será la evaluación ética y legal de dichos sistemas cuyos objetivos serán reforzar la legitimidad y confianza en los sistemas automatizados de la Administración Pública”89.

Por su parte, la Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a la mejora de las condiciones laborales en el trabajo en plataformas digitales90 detalla el contenido del deber de informar sobre el uso de sistemas automatizados de toma o apoyo de decisiones que afectan significativamente a las condiciones de trabajo, haciendo referencia a los siguientes extremos: 1) que tales sistemas estén en uso o en proceso de introducción; 2) las categorías de decisiones adoptadas o apoyadas por esos sistemas; 3) los principales parámetros que tienen en cuenta y la importancia relativa de dichos parámetros en la toma de decisiones automatizadas, incluida la forma en la que los datos personales o el comportamiento del trabajador influyen en las decisiones; 4) los motivos de las decisiones de restringir, suspender o cancelar la cuenta del trabajador, de denegar la remuneración por el trabajo realizado o de cualquier decisión sobre la situación contractual del trabajador o que tenga efectos similares91.

El ordenamiento español ha procedido a la creación de una autoridad pública u organismo público de vigilancia del correcto uso de los algoritmos para asegurar que el comportamiento de las aplicaciones es correcto y es legal, quedando incontrovertida la fiabilidad del algoritmo92. Esta variable ha sido ya materializada mediante la figura de la Agencia Española de Supervisión de la Inteligencia Artificial, encargada del control de los algoritmos, que ha visto la luz con la disposición adicional 7ª Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes, siguiendo la pauta previamente marcada por la disposición adicional centésima trigésima Ley 22/2021, de 28 de diciembre, de Presupuestos Generales del Estado para el año 2022.

De conformidad con lo previsto en el artículo 91 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, se autoriza su creación como organismo público con personalidad jurídica pública, patrimonio propio, plena capacidad de obrar y potestades administrativa, inspectora y sancionadora que se le atribuyan en aplicación de la normativa nacional y europea en relación con el uso seguro y confiable de los sistemas de inteligencia artificial (disposición adicional séptima. uno). En relación con los fines que deben guiar la actuación de la Agencia, se alude, por su orden, a: “a) La concienciación, divulgación y promoción de la formación, y del desarrollo y uso responsable, sostenible y confiable de la inteligencia artificial; b) La definición de mecanismos de asesoramiento y atención a la sociedad y a otros actores relacionados con el desarrollo y uso de la inteligencia artificial; c) La colaboración y coordinación con otras autoridades, nacionales y supranacionales, de supervisión de inteligencia artificial; d) El fomento de entornos reales de prueba de los sistemas de inteligencia artificial, para reforzar la protección de los usuarios; e) La supervisión de la puesta en marcha, uso o comercialización de sistemas que incluyan inteligencia artificial y, especialmente, aquellos que puedan suponer riesgos significativos para la salud, seguridad y los derechos fundamentales” (disposición adicional séptima. dos)93.

El desarrollo de su régimen jurídico se ha llevado a cabo mediante Real Decreto 729/2023, de 22 de agosto, cuyo art. 4 determina como tareas esenciales: “la supervisión, el asesoramiento, la concienciación y la formación dirigidas a entidades de derecho público y privado para la adecuada implementación de toda la normativa nacional y europea en torno al adecuado uso y desarrollo de los sistemas de inteligencia artificial, más concretamente, de los algoritmos”. Asimismo, desempeñará “la función de inspección, comprobación, sanción y demás que le atribuya la normativa europea que le resulte de aplicación y, en especial, en materia de inteligencia artificial. Todo ello sin menoscabo de las competencias y funciones que en este ámbito vienen ejerciendo el Ministerio de Sanidad y la Agencia Española de Medicamentos y Productos Sanitarios, en el ámbito de los medicamentos, productos sanitarios y evaluación de nuevas tecnologías para inclusión en la Cartera de Servicios del Sistema Nacional de Salud, así como el Ministerio de Trabajo y Economía Social y la Inspección de Trabajo y Seguridad Social, en su función de vigilancia del cumplimiento de las normas del orden social y exigencia de responsabilidades, en el ámbito de las relaciones laborales”.

Además, se ocupará de “la minimización de los riesgos que puede suponer el uso de esta nueva tecnología, el adecuado desarrollo y potenciación de los sistemas de inteligencia artificial, (de manera que) en el ámbito de la competencia estatal, ejercerá las funciones de autoridad responsable de la supervisión, y en su caso sanción, de los sistemas de inteligencia artificial con el objeto de eliminar o reducir los riesgos para la integridad, la intimidad, la igualdad de trato y la no discriminación, en particular entre mujeres y hombres, y demás derechos fundamentales que pueden verse afectados por el mal uso de los sistemas”.

A pesar de estos avances normativos, la falta de información y transparencia de los algoritmos continúa siendo un reto jurídico que debe abordarse, pues, por una parte, el RPD se refiere a decisiones íntegramente automatizadas, excluyendo aquellas en las que también hay intervención humana (para las cuales este derecho a la información no se ha reconocido) y, por otra, el art. 64.4 ET alude a los “parámetros y métricas” utilizadas por el algoritmo pero no a los efectos que dicho instrumento genera al no ir acompañado de la información estadística sobre el impacto del uso de dicha tecnología inteligente94. El estudio del Consejo de Europa, titulado On the human rights dimensions of automated data processing techniques (in particular algorithms) and posible regulatory implications de 2017, profundizó en la dimensión de los derechos humanos respecto del tratamiento y del uso de algoritmos, concretamente los derivadas de la elaboración de rankings y la ordenación de criterios de preferencia sobre trabajadores con efectos que pueden comprometer las oportunidades de su carrera profesional y que suponen retos adicionales en la protección de los derechos fundamentales que exigen la introducción de criterios éticos y criterios de transparencia y auditoría, así como el derecho a la información en el uso de algoritmos95.

Bajo tales premisas, una ordenación completa de las decisiones empresariales automatizadas deviene clave no sólo para evitar las prácticas invasivas en lo personal sino para cercenar los posibles efectos sesgados capaces de conllevar, además, resultados discriminatorios y lesivos sobre otros derechos fundamentales96. La participación del legislador laboral y la acción del ejecutivo no deben demorarse por más tiempo, pues pueden servir para promocionar cauces de entendimiento aceptables para todas las partes, mientras que la abstención hace presagiar un largo ciclo de conflictos97. Es imprescindible, a la postre, introducir fórmulas jurídicas para garantizar los siguientes extremos:

1.- Mayor transparencia de los sistemas de inteligencia artificial tanto individual como colectiva, garantizando información a los trabajadores y a sus representantes sobre la existencia de decisiones automatizadas, los datos recolectados, las variables utilizadas y sus efectos98. El Grupo de Trabajo del art. 29 recomienda ofrecer información sobre99: 1) las categorías de datos que se han utilizado o se utilizarán en la elaboración de perfiles o el proceso de toma de decisiones; 2) por qué estas categorías se consideran pertinentes; 3) cómo se elaboran los perfiles utilizados en el proceso de decisiones automatizadas, incluidas las estadísticas utilizadas en el análisis; 4) por qué este perfil es pertinente para el proceso de decisiones automatizadas; y 5) cómo se utiliza para una decisión relativa al interesado.

2.- Incorporar la intervención humana (human-in-command)100 en las decisiones de empleabilidad, de acceso y mantenimiento del empleo, tal y como señalan el Comité Económico y Social Europeo101 y la Comisión Europea102, en el bien entendido sentido de que esta participación humana no puede ser un mero gesto simbólico sino que debe alcanzar el grado de significativa sin que tampoco pueda quedar en exclusiva en manos del proveedor o en manos del empresario (cliente). Además, debe llevarse a cabo por parte de una persona autorizada y competente para modificar la decisión103. En todo caso, debe evitarse “el diseño de sistemas con la orientación `palanca del hombre muerto’ y dar siempre la opción a que un operador humano pueda ignorar o modular el algoritmo en un momento dado”104.

En todo caso, las persona encargada de intervenir en el sistema deberá estar habilitada para105: a) entender por completo las capacidades y limitaciones del dispositivo y controlar debidamente su funcionamiento, de modo que puedan detectar indicios de anomalías, problemas de funcionamiento y comportamientos inesperados para poner solución lo antes posible; b) revertir la posible tendencia a confiar en exceso en la información de salida generada por el sistema de inteligencia artificial (”riesgo de automatización”); c) interpretar correctamente la información de salida, teniendo en cuenta las herramientas y los medios disponibles; d) decidir, en cualquier situación concreta, no utilizar el sistema o desestimar, invalidar o neutralizar la información de salida generada; e) interrumpir el funcionamiento del sistema mediante un proceso de fácil implementación.

3.- Realizar evaluaciones de impacto algorítmico en la fase piloto en aras a la detección precoz de posibles sesgos, fallos, errores y riesgos para los principios éticos y para los derechos de las personas trabajadoras (incluida su salud laboral) posibilitando la adopción de medidas correctoras a través de herramientas de medición precisas que prevengan resultados nocivos “desde el diseño y por defecto”106. Dichas evaluaciones deben realizar una comparación entre el rendimiento obtenido por un operador humano cualificado frente a los resultados arrojados por el modelo automatizado. Adicionalmente, las evaluaciones de impacto deberán de ser públicas y transparentes y entregarse a los representantes legales de los trabajadores y a la autoridad competente a efectos de su registro.

4.- Introducir evaluaciones permanentes de sus posibles variaciones con el fin de que el algoritmo no acabe “automodificando” su programación, dada la evolución constante y el propio aprendizaje del algoritmo107. Los algoritmos deberían estar programados para evaluarse a sí mismos a través de las denominadas “pruebas de caja negra” (black box testing) en aras a demostrar que cumplen con ciertos principios, de manera que el contenido de esa auditoría debería fijarse en analizar aspectos fundamentales, como son, el cumplimiento legal y ético, la aceptabilidad y la gestión adecuada de los datos108. Como con acierto ha señalado la Agencia Española de Protección de Datos, la evaluación debe desarrollarse durante todo el ciclo de vida desde la legitimidad ética de los tratamientos hasta los efectos de estos y su impacto colateral109.

5.- Diseñar eficientes auditorías, bien administrativas o a cargo de entidades certificadoras, que se ocupen de valorar los resultados o efectos de la automatización de las decisiones, contando con la participación activa (y no meramente pasiva) de la representación del personal, que deben ser formados e informados, al igual que los propios empleados, sobre los fundamentos, variables, parámetros y reglas que utiliza el algoritmo para entender las implicaciones del sistema y estar protegidos (estos últimos) frente a eventuales represalias, contando además con mecanismos de impugnación interna de las decisiones ante una persona de contacto con capacidad para debatir y aclarar los hechos, circunstancias y motivos que hayan llevado a la decisión automatizada110.

En fin, tales auditorías acreditarían que “las decisiones son independientes de cualquier sesgo de entrada… y que los resultados finales son veraces, justos, precisos, sin omisiones y respetuosos con los derechos y libertades de las personas trabajadoras…, (siendo conveniente) que el Estado dote a las Inspecciones de Trabajo de los recursos necesarios para poder ejecutar tales auditorías creando unidades especializadas a tal efecto que tendrán la potestad legal de comprobar la idoneidad del desempeño de cualquier algoritmo aplicable en las relaciones laborales”111. Como no podía ser de otra manera, el fin de la auditoría será identificar o anticipar errores y amenazas (reales o potenciales), estableciendo cauces de solución112.

Ambas tecnologías (inteligencia artificial y algoritmos) resultan ser ciertamente novedosas, habiéndose incorporado al mundo del trabajo de manera irreversible, generando progresos para la productividad empresarial, pero, a su ve, nuevos escenarios inquietantes en el Derecho Laboral y, más concretamente, en lo que se refiere a la protección jurídica de las personas trabajadoras113. Es más, la aparente neutralidad, objetividad y asepsia de los mecanismos automatizados de decisión empresarial juega sin duda en contra de la tutela de los derechos afectados, por cuanto la técnica del aprendizaje profundo en la que consisten estas sofisticadas herramientas, a partir de los datos de alimentación por parte de algoritmos que autoaprenden de ellos e infieren conclusiones, utilizadas para asesorar pareceres, impide establecer una clara conexión entre tales datos de alimentación (macrodatos) y las conclusiones a las que llega el modelo matemático114. Y ello porque cualquier forma de inteligencia artificial en el mundo laboral requiere de dos acciones separadas: en primer lugar, es necesario obtener los datos de las personas trabajadoras para “alimentar” las fórmulas matemáticas y, en un segundo momento, utilizar la inteligencia artificial en el caso concreto. La perversidad de este funcionamiento es, precisamente, la dificultad de conocer dónde se encuentra el sesgo de la decisión y detectar el fallo a fin de impugnar la decisión empresarial, de ahí la necesidad de completar la escasa normativa existente sobre la materia procediendo a introducir las cautelas de transparencia y evaluación oportunas.

No cabe sino compartir que los problemas y desafíos a encarar no surgen de la implementación de tecnologías inteligentes, sino de su “inadecuado” uso en la dinámica de las decisiones empresariales115, unido al surgimiento de espacios de ausencia de ordenación legal o de ordenación a la baja de los mecanismos de protección de los derechos de los trabajadores o bien a la falta de sensibilidad ante la preterición. El Derecho del Trabajo no puede permanecer impasible, al menos si aspira a cumplir su finalidad de proporcionar equilibrio entre las legítimas aspiraciones empresariales y los derechos de los trabajadores, y por ello se reclaman con insistencia avances en lo que se ha dado en llamar “gobernanza algorítmica”, amén de la necesidad de elaborar reglas específicas de actuación y cauces de responsabilidad para responder de los daños causados por estas tecnologías116.

Por tales razones, es necesaria una cierta intervención normativa para reconducir los márgenes de maniobra que puedan resultar invasivos o elusivos de medidas tuitivas, contando con el complemento ineludible de la negociación colectiva como elemento vertebrador primordial, no en vano los interlocutores sociales están en disposición de “establecer garantías adicionales de los derechos y libertades relacionados con la salvaguarda de derechos de las personas trabajadoras en los procesos de transformación digital automatizada y en la determinación de las consecuencias laborales que la misma pude implicar”117, esbozando también acciones positivas para mitigar el factor exclusión asociado a la tecnología inteligente118.

En fin, si queremos una tecnología de trabajo decente y bajo control humano, como pretende la OIT, debemos asegurarnos de que los sistemas algorítmicos tienen un impacto justo en la vida de las personas y que están en línea con los valores de la democracia, el estado de derecho y los derechos fundamentales119.

1 López de Oñate, F.: La certeza del Derecho, trad. S. Sentís Melendo y M.Ayerra Redin, edición al cuidado de J.L. Monereo Pérez, Granada, Ed. Comares (Colección Crítica del Derecho), 2007, p.4.

2 Ruíz Miguel, C.: “La tercera generación de los derechos fundamentales”, Revista de Estudios Políticos, núm. 72, 1991, p. 301.

3 Pérez Luño, A.E.: “Los derechos humanos en la sociedad tecnológica”, en Losano, M.G.; Pérez Luño, A.E. y Guerrero Mateus, Mª.F.: Libertad Informática, leyes de protección de datos personales, Cuadernos y Debates, núm. 43, Madrid, CEC, 1989, p. 142.

4 Un estudio completo sobre el impacto de las nuevas tecnologías, en su conjunto, en el ejercicio de los derechos laborales fundamentales, puede hallarse en Monereo Pérez, J.L., Vila Tierno, F., Esposito, M, Pérán Quesada, S. (DIRS): Innovación tecnológica, cambio social y sistema de relaciones laborales. Nuevos paradigmas para comprender el derecho del trabajo del siglo XXI, Granada, Comares, 2021, 1152 pp. En esta obra se aporta también una visión comparada del tratamiento de esta problemática y su tratamiento en la negociación colectiva, la cual, evidentemente, tiene mucho que decir por su proximidad e inmediación con la realidad de las relaciones laborales.

5 Para el sentido jurídico de esa dimensión constitucional que comporta el constitucionalismo de derecho privado social (o, de manera más simplificado y acaso más apropiada, de constitucionalismo de derecho social en las relaciones laborales), que es de máxima actualidad en una sociedad de la vigilancia y de iniciativas de política del Derecho que suponen el cuestionamiento del ejercicio efectivo de los derechos y libertades fundamentales de las personas que trabajan, véase Monereo Pérez, J.L.:“ Constitucionalismo de Derecho privado “social” y “constitución del trabajo” frente al liberalismo iusprivatista tradicional. A propósito de la teoría jurídica de Georges Ripert”, en Revista Crítica De Relaciones De Trabajo, Laborum, núm.1, 2021, pp.197–264. Recuperado a partir de https://revista.laborum.es/index.php/revreltra/article/view/525; Monereo Pérez, J.L.: “Ciudadanía, empresa y Constitución Social del Trabajo: por un constitucionalismo de Derecho Social”, en Rivista di studi y documentazione su ‘ll integrazione europea Iceonline 1, 2022, pp. 1-48. https://www.lceonline.eu/wp-content/uploads/2022/04/Ia.01-Saggi-Monereo-Perez.pdf

6 Esa propuesta ha sido realizado respecto a la renovación de la Carta Social Europea Revisada de 1996, ratificada por nuestro País, en Monereo Pérez, J. L. (2022). “La garantía de los derechos sociales en la Carta Social Europea como ‘Constitución Social’ de la Europa amplia”, en Revista Crítica De Relaciones De Trabajo, Laborum, núm. 4, 2022, pp. 215–326. Recuperado a partir de ttps://revista.laborum.es/index.php/revreltra/article/view/622.

7 Molina Hermosilla, O.: “. Inteligencia artificial, Bigdata y Derecho a la protección de datos de las personas trabajadoras. Revista De Estudios Jurídico Laborales Y De Seguridad Social (REJLSS), núm.6, 2023, pp. 89–117. https://doi.org/10.24310/rejlss.vi6.16225. Asimismo, Molina Hermosilla, O.: “Hacia una visión integradora de la transformación digital de los entornos laborales y los derechos fundamentales a la intimidad y protección de datos de las personas trabajadores”, en Proyecto docente e investigador, presentado para el concurso público de acceso al Cuerpo Docente de Catedráticos/as de Universidad, Jaén, Universidad de Jaén, 13 de julio de 2023, pp. 492-598; Gómez Salado, M.A.: La cuarta revolución industrial y su impacto sobre la productividad, el empleo y las relaciones jurídico-laborales: Desafíos tecnológicos del siglo XXI, Cizur Menor (Navarra), Thompson-Aranzadi, 2021.

8 Puede consultarse, Zuboff, S.: La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder (2019), Barcelona, Paidós, 2020, espec., pp. 657 y ss.

9 COMISIÓN EUROPEA: Configurar el futuro digital de Europa, Comunicación al Parlamento Europeo, al Consejo, al Comité Económico y Social y al Comité de las Regiones, COM (2020) 67 final, 19 de febrero 2020, p. 2. Véase Molina Hermosilla, O.: “Hacia una visión integradora de la transformación digital de los entornos laborales y los derechos fundamentales a la intimidad y protección de datos de las personas trabajadores”, en Proyecto docente e investigador, presentado para el concurso público de acceso al Cuerpo Docente de Catedráticos/as de Universidad, Jaén, Universidad de Jaén, 13 de julio de 2023, pp. 492 y ss.

10 Para la construcción del “principio de responsabilidad”, véanse las obras de referencia de Jonas, H.: El principio de responsabilidad. Ensayo de una ética para la civilización tecnológica, introducción y trad. de Andrés Sánchez Pascual, Editorial Herder, Barcelona, 1995; Jonas, H.: El principio vida. Hacia una biología filosófica, Trotta, Madrid, 2000.

11 Informe sobre la “Ley sobre inteligencia artificial” (Artificial intelligence act).

https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf

https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial

La Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación (BOE de 13 de julio), contiene la primera regulación positiva del uso de la inteligencia artificial por las administraciones públicas y las empresas en España. En efecto, conforme al art. 23 (“Inteligencia Artificial y mecanismos de toma de decisión automatizados”). “1. En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio. 2. Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos. 3. Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido. 4. Se promoverá un sello de calidad de los algoritmos.”. La Exposición de Motivos subraya que se trata de una ley de garantías que no pretende tanto reconocer nuevos derechos como garantizar los que ya existen. En este sentido, desarrolla el artículo 14 CE. No de una Ley más de derechos sociales sino, sobre todo, de Derecho antidiscriminatorio específico, que viene a dar cobertura a las discriminaciones que existen y a las que están por venir, ya que los desafíos de la igualdad cambian con la sociedad y, en consecuencia, también deberán hacerlo en el futuro las respuestas debidas.

12 Mercader Uguina, J.R.: El futuro del trabajo en la era de la digitalización y la robótica, Valencia, Tirant Lo Blanch, Valencia, 2017, pp. 23 y ss.

13 Goñi Sein, J.L.: “Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo”, Documentación Laboral, núm. 117, 2019, vol. II, p. 60.

14 Mecanismo amparado bajo la fórmula de las 3 V: volumen, variedad y velocidad. Sevillano Pérez, F.: “Big data”, Revista Economía Industrial, núm. 395, 2015, p. 77.

15 Sánchez-Urán Azaña, Y. y Grau Ruiz, M.A.: “El impacto de la robótica, en especial la robótica inclusiva, en el trabajo: aspectos jurídico-laborales y fiscales”, Revista Aranzadi de Derecho y Nuevas Tecnologías, núm. 50, 2019 (BIB 2019/7000); Álvarez Cuesta, H.: El impacto de la inteligencia artificial en el trabajo: desafíos y propuestas, Cizur Menor (Navarra), Thompson-Aranzadi, 2020.

16 Asquerino Lamparero, M.J.: “Algoritmos, procesos de selección y reputación digital: una mirada antidiscriminatoria”, Documentación Laboral, núm. 126, vol. II, p. 122.

17 Edición 2023 de la encuesta global de McKinsey sobre el estado de la Inteligencia Artificial (IA) “The state of AI in 2023: Generative AI’s breakout year”, citada por Fernández, C.B.: “Las empresas utilizan cada vez más inteligencia artificial generativa, incluso ignorando incluso los riesgos que plantea su uso”, Diario La Ley, 15 de septiembre de 2023.

18 Según datos del Instituto Nacional de Estadística, el sector donde está más presente, como no podía ser de otra manera, es en el de las TIC (27,33%), seguido del de la información y las telecomunicaciones (26,65%), mientras que, como contrapunto, encontramos el sector de la construcción (3,77%). Rodríguez Martín-Retortillo, R.: “Deber de transparencia y límites de la inteligencia artificial en las relaciones laborales”, Trabajo y Derecho, núm. 102, 2023.

19 Terradillos Ormaetxea, E.: “los poderes de dirección y de control de la empresa y el Derecho a la protección de datos”, Documentación Laboral, núm. 126, vol. II, 2022, p. 83.

20 Goñi Sein, J.L.: “Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo”, Documentación Laboral, núm. 117, 2019, vol. II, p. 61.

21 Álvarez Cuesta, H.: “El consentimiento individual y su alcance en la inteligencia artificial aplicada al ámbito laboral”, Documentación Laboral, núm. 16, vol. II, 2022, p. 52.

22 Todolí Signes, A.: Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación, Pamplona, Aranzadi, 2023, p. 101.

23 Todolí Signes, A.: “Prevención de riesgos laborales ante la inteligencia artificial y la reputación digital de las personas trabajadoras”, en De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Molina Navarrete, C. y Vallecillo Gámez, M.R., Dirs., Pamplona, Aranzadi, 2021, p. 361.

24 Mercader Uguina, J.R.: “Discriminación algorítmica en el trabajo y derecho fundamental a la transparencia: ¿debemos (podemos) regular los algoritmos?”, El Foro de Labos, 15/10/2021, https://www.elforodelabos.es/2021/02/discriminacion-algoritmica-en-el-trabajo-y-derecho-fundamental-a-la-transparencia-debemos-podemos-regular-los-algoritmos/

25 Goñi Sein, J.L.: “Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo”, Documentación Laboral, núm. 117, 2019, vol. II, p. 70.

26 Rodríguez Cardo, I.A.: “Gestión laboral algorítmica y poder de dirección: ¿hacia una participación de los trabajadores más intensa?”, Revista Jurídica de Asturias, núm. 45, 2022, p. 160.

27 Rodríguez Escanciano, S.: Derechos laborales digitales: garantías e interrogantes, Pamplona, Aranzadi, 2019, pp. 23 y ss. De interés, Ávila Rodríguez, M.C.: “Derecho a la protección de datos de carácter personal (Artículo 8 de la Carta de los Derechos Fundamentales de la Unión Europea)”, en Monereo Atienza, C. y Monereo Pérez, J.L. (Dirs. y Coords.): La Europa de los Derechos. Estudio Sistemático de la Carta de los Derechos Fundamentales de la Unión Europea, Granada, Comares, 2012, pp. 157 y ss.

28 Ginés I Fabrellas, A.: “Sesgos discriminatorios en la automatización de decisiones en el ámbito laboral: evidencia práctica”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 295.

29 Todolí Signes, A.: “Prevención de riesgos laborales ante la inteligencia artificial y la reputación digital de las personas trabajadoras”, en De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Molina Navarrete, C. y Vallecillo Gámez, M.R., Dirs., Pamplona, Aranzadi, 2021, p. 362.

30 https://www.aepd.es/sites/default/files/2019-12/wp251rev01-es.pdf

31 Molina Navarrete, C.: “Economía de datos, mercados digitales de empleo y gestión analítica de personas: retos para la transición a una sociedad del e-trabajo decente”, Revista Trabajo y Seguridad Social (Cetro de Estudios Financieros), núm. 459, 2021, p. 7. Según la propia Unión Europea, esta noción de industria va más allá de la Industria 4.0, ofreciendo una visión de la industria que no solamente cuenta con objetivos como la eficiencia y la productividad, sino que incide en la contribución de la industria a la sociedad y ubica a las personas trabajadoras en el centro de la producción, aludiendo a la necesidad de hacer uso de la tecnología también para coadyuvar a la prosperidad de todos los agentes de la sociedad. Álvarez de la Rosa, M.: “El Derecho del Trabajo en el principio de libertad de empresa”, Trabajo y Derecho, núm. 57, 2019, pp. 12 y ss.

32 Para la un estudio detenido sobre la posición de la OIT que vinculada el principio de la dignidad humana como eje del trabajo decente y del conjunto de los derechos fundamentales de la personas que trabaja, véase MONEReo Pérez, J.L.: La dignidad del trabajador: dignidad de la persona en el sistema de relaciones laborales, Murcia, Laborum, 2019; Ibid., “La dignidad de los trabajadores: la dignidad como principio fundante y como derecho fundamental”, en Nueva revista española de derecho del trabajo, núm. 233, 2021, pp. 51 y ss.

33 OIT: Declaración del Centenario de la OIT para el futuro del trabajo, adoptada en la 108ª
Reunión de la Conferencia Internacional del Trabajo, celebrada en 2019.

34 Muñoz Ruíz, A.B.: “La inteligencia artificial y el uso de algoritmos para dirigir el trabajo: la deshumanización del trabajador”, El Foro de Labos, 18/09/2020, https://www.elforodelabos.es/2020/09/la-inteligencia-artificial-y-el-uso-de-algoritmos-para-dirigir-el-trabajo-la-deshumanizacion-del-trabajador/

35 https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206

36 Álvarez Cuesta, H.: “Inteligencia artificial: derecho de la UE y derecho comparado: la propuesta de una Ley sobre IA”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, pp. 379 y ss.

37 En concreto, en una lista abierta, la información mínima a proporcionar debe incluir:” a) la identidad y los datos de contacto del proveedor y, en su caso, de su representante autorizado; b) las características, capacidades y limitaciones del funcionamiento y, en particular, su finalidad prevista; el nivel de precisión, solidez y ciberseguridad, con respecto al cual se haya probado y validado el sistema de inteligencia artificial de alto riesgo y qué puede esperarse de este, así como las circunstancias conocidas o previsibles que podrían afectar al nivel de precisión, solidez y ciberseguridad esperado; cualquier circunstancia conocida o previsible, asociada a la utilización del sistema de inteligencia artificial de alto riesgo conforme a su finalidad prevista o a un uso indebido razonablemente previsible, que pueda dar lugar a riesgos para la salud y la seguridad o los derechos fundamentales; su funcionamiento en relación con las personas o grupos de personas en relación con los que se pretende utilizar el sistema; cuando proceda, especificaciones relativas a los datos de entrada o cualquier otra información pertinente en relación con los conjuntos de datos de entrenamiento, validación y prueba usados, teniendo en cuenta la finalidad prevista del sistema de inteligencia artificial; c) los cambios en el sistema de inteligencia artificial de alto riesgo y su funcionamiento predeterminado por el proveedor en el momento de efectuar la evaluación de conformidad inicial, en su caso; d) las medidas de vigilancia humana, incluidas las medidas técnicas establecidas para facilitar la interpretación de la información de salida de los sistemas de inteligencia artificial por parte de los usuarios; e) la vida útil prevista del sistema de inteligencia artificial de alto riesgo, así como las medidas de mantenimiento y cuidado necesarias para garantizar el correcto funcionamiento de dicho sistema, también en lo que respecta a la actualización del software” (art. 13.3). Álvarez Cuesta, H.: “El consentimiento individual y su alcance en la inteligencia artificial aplicada al ámbito laboral”, Documentación Laboral, núm. 126, Vol. 2, 2022, p. 66.

38 Cardona Rubert, M.B.: “Contenido y elementos principales del derecho a la protección de datos”, Revista del Ministerio de Trabajo y Economía Social, núm. 148, 2021, pp. 97-112.

39 COM(2020) 65 final. Pero es fundamental también que todos los operadores jurídicos contribuyan a la efectividad de los derechos fundamentales, y señaladamente la labor de los jueces y magistrados. Paradigmáticamente, puede consultarse Monereo Pérez, J.L.: “Prueba de videovigilancia, tutela de los derechos fundamentales y justificación del despido disciplinario: límites y requisitos de razonabilidad jurídica”, en Revista de Jurisprudencia Laboral, núm. 4, 2022. https://www.boe.es/biblioteca_juridica/anuarios_derecho/abrir_pdf.php?id=ANU-L-2022-00000001819 . Asimismo, Rodríguez Escanciano, S.: “La videovigilancia de seguridad como prueba de ilícitos laborales ante la sospecha de comportamiento irregular”, en Revista de Jurisprudencia Laboral, núm. 10, 2022.

40 La inteligencia artificial fiable tiene tres componentes: 1) debe ser lícita y cumplir todas las leyes y reglamentos aplicables; 2) ha de ser ética, de modo que se garantice el respeto de los principios y valores éticos, y 3) debe ser robusta tanto desde el punto de vista técnico como social, a fin de asegurar que los sistemas de inteligencia artificial, incluso si las intenciones son buenas, no provoquen daños accidentales. https://op.europa.eu/es/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1

42 Olarte Encabo, S.: “Algoritmos retributivos y no discriminación salarial de las mujeres”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 246.

45 García Quiñones, J.C.: “Inteligencia artificial y relaciones laborales: entre la significación creciente de los algoritmos y el desmentido de su neutralidad aparente”, Temas Laborales, núm. 167, 2021, p. 114.

47 Álvarez Cuesta, H.: “Inteligencia artificial: derecho de la UE y derecho comparado: la propuesta de una Ley sobre IA”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 394.

48 Propuesta de Reglamento del Parlamento Europeo y del Consejo, de 6 de junio de 2018 (COM 2018 0434).

50 Rodríguez Martín-Retortillo, R.: “Deber de transparencia y límites de la inteligencia artificial en las relaciones laborales”, Trabajo y Derecho, núm. 102, 2023.

51 https://www.aedtss.com/wp-content/uploads/dl/N122/05%20El%20acuerdo%20marco%20europeo%20sobre%20digitalizaci%C3%B3n%20(Goerlich%20Peset).pdf

52 https://portal.mineco.gob.es/es-es/ministerio/areas-prioritarias/Paginas/inteligencia-artificial.aspx

54 https://www.lamoncloa.gob.es/presidente/actividades/Documents/2021/140721-Carta_Derechos_Digitales_RedEs.pdf

55 https://portal.mineco.gob.es/RecursosNoticia/mineco/prensa/noticias/2022/20221213_plan_algoritmos_verdes.pdf

56 Este indicio fue decisivo para que la Ley 12/2021 (que se ha dado en llamar “ley rider”) introdujera una presunción específica de laboralidad para el trabajo en plataformas Rodríguez Cardo, I.A.: “Decisiones automatizadas y discriminación algorítmica en la relación laboral: ¿hacia un Derecho del Trabajo de dos velocidades?”, Nueva Revista Española de Derecho del Trabajo, núm. 253, 2022.

57 Mercader Uguina, J.R.: “Discriminación algorítmica en el trabajo y derecho fundamental a la transparencia: ¿debemos (podemos) regular los algoritmos?”, El Foro de Labos, 15/10/2021, https://www.elforodelabos.es/2021/02/discriminacion-algoritmica-en-el-trabajo-y-derecho-fundamental-a-la-transparencia-debemos-podemos-regular-los-algoritmos

58 Vicente Palacio, A.: “La inteligencia artificial en la Ley integrar para la igualdad y no discriminación”, Revista General de Derecho del Trabajo y de la Seguridad Social, núm. 64, 2023.

59 Monereo Pérez, J.L.: “El futuro de la negociación colectiva. Las transformaciones estructurales”, en Monereo Pérez, J.L., Vila Tierno, F., Esposito, M, Perán Quesada, S. (Dirs.): Innovación tecnológica, cambio social y sistema de relaciones laborales. Nuevos paradigmas para comprender el derecho del trabajo del siglo XXI, Granada, Comares, 2021, pp. 185 y ss.

60 Álvarez Cuesta, H.: El futuro del trabajo vs. el trabajo del futuro, Madrid, Colex, 2017, p. 16.

61 Ginés I Fabrellas, A.: “La gestión algorítmica del trabajo: nuevos retos jurídicos, tecnológicos y éticos”, en Digitalización, recuperación y reformas laborales. XXXII Congreso Anual de la Asociación Española de Derecho del Trabajo y de la Seguridad Social, Alicante, 26 y 27 de mayo de 2022, Madrid, Ministerio de Trabajo y Economía Social, 2022, p. 303.

62 Rivas Vallejo, P.: “La gestión analítica de personas en la era digital: su impacto sobre los derechos fundamentales”, en De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Molina Navarrete, C. y Vallecillo Gámez, M.R., Dirs., Pamplona, Aranzadi, 2021, p. 263.

63 Mercader Uguina, J.R.: Algoritmos e inteligencia artificial en el derecho digital del trabajo, Valencia, Tirant Lo Blanch, 2022, p. 191.

64 Todolí Signes, A.: Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación, Pamplona, Aranzadi, 2023, p. 77.

65 Rivas Vallejo, P.: La aplicación de la inteligencia artificial al trabajo y su impacto discriminatorio, Pamplona, Aranzadi, 2020, p. 337.

66 Todolí Signes, A.: Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación, Pamplona, Aranzadi, 2023, p. 80.

67 Agencia Española de Protección de Datos: Expediente núm. PS/00050/2021.

68 Olarte Encabo, S.: “La aplicación de inteligencia artificial a los procesos de selección de personal y ofertas de empleo: impacto sobre el derecho a la no discriminación, Documentación Laboral, núm. 119, 2020, Vol., 1, p. 89.

69 González Ruíz, F.J.: “Inteligencia artificial: implicaciones en materia de protección de datos”, Actualidad Jurídica Aranzadi, núm. 950, 2019, p. 2.

70 Todolí Signes, A.: Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación, Pamplona, Aranzadi, 2023, p. 82.

71 Agencia Española de Protección de Datos: Adecuación al Reglamento de Protección de Datos de tratamientos que incorporan inteligencia artificial, Madrid, AEPD, 2020, p. 34.

72 García Quiñones, J.C.: “Inteligencia artificial y relaciones laborales: entre la significación creciente de los algoritmos y el desmentido de su neutralidad aparente”, Temas Laborales, núm. 167, 2023, p. 96.

73 Terradillos Ormaetxea, E.: “Los poderes de dirección y de control de la empresa y el derecho a la protección de datos”, Documentación Laboral, núm. 126, Vol. 2, 2022, p. 72.

74 https://expinterweb.mites.gob.es/participa/listado/download/b1cdbf75-f3cc-4528-a44b-2a4517537752

75 Olarte Encabo, S.: “Algoritmos retributivos y no discriminación salarial de las mujeres”, Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 341.

76 Rivas Vallejo, P.: La aplicación de la inteligencia artificial al trabajo y su impacto discriminatorio, Pamplona, Aranzadi, 2020, p. 108.

77 Ginnes I Fabrellas, A.: “Sesgos discriminatorios en la automatización de decisiones en el ámbito laboral: evidencias de la práctica”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 319.

78 Álvarez Cuesta, H.: “La inteligencia artificial, el big data y los algoritmos: un paso más para ampliar la facultad de los representantes de los trabajadores“, en Seminario internacional sobre nuevos lugares, distintos tiempos y modos diversos de trabajar: innovación tecnológica y cambios en el ordenamiento social, Fernández Domínguez, J.J. y Fernández Fernández, R., Dirs., Pamplona, Aranzadi, 2021, p. 383.

79 VV.AA.: Información algorítmica en el ámbito laboral. Guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral, Madrid, Ministerio de Trabajo, 2022, p. 11.

80 Álvarez Cuesta, H.: “El impacto de la tecnología en las relaciones laborales: retos presentes y desafíos futuros”, Revista Justicia y Trabajo, núm. 2, 2023, p. 45.

81 Fernández Fernández, R.: Selección de trabajadores y algoritmos: desafíos ante las nuevas formas de reclutamiento, Pamplona, Aranzadi, 2022, p. 91.

82 Olarte Encabo, S.: “Algoritmos retributivos y no discriminación salarial de las mujeres”, Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 252.

83 Todolí Signes, A.: “Cambios normativos en la digitalización del trabajo. Comentario a la Ley Rider y los derechos de información sobre los algoritmos”, Iuslabor, núm. 2, 2021, p. 50.

84 Recuérdese que conforme al art. 64. 4 ET: “El comité de empresa, con la periodicidad que proceda en cada caso, tendrá derecho a: […] d) Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”. Se trata de un derecho de información instrumental a efectos de poder influir en las decisiones que se adopten (información para implicación) y desde luego al propio tiempo de un derecho que permite un conocimiento fidedigno a efectos de controlar el impacto de tales parámetros, reglas e instrucciones que el soporte de los algoritmos o sistemas de inteligencia artificial (información para el control). No se olvide tampoco que los delegados sindicales cuando no forman parte del Comité de Empresa tienen derecho a acceder a la misma información y documentación que ponga a su disposición el empleador (calificables en su conjunto como derechos de comunicación). Cfr. Art.10 3 de la Ley Orgánica 11/1985, de 2 de agosto, de Libertad Sindical: “Los delegados sindicales, en el supuesto de que no formen parte del comité de empresa, tendrán […] los siguientes derechos a salvo de lo que se pudiera establecer por convenio colectivo: 1.º Tener acceso a la misma información y documentación que la empresa ponga a disposición del comité de empresa, estando obligados los delegados sindicales a guardar sigilo profesional en aquellas materias en las que legalmente proceda”. Estamos entonces ante un derecho sindical de información en sentido estricto y para uso y fines sindicales.

85 Rodríguez Cardo, I.A.: “Decisiones automatizadas y discriminación algorítmica en la relación laboral: ¿hacia un Derecho del Trabajo de dos velocidades?”, Nueva Revista Española de Derecho del Trabajo, núm. 253, 2022.

86 Gómez Gordillo, R.: “El poder de dirección y los algoritmos”, Estudios de Derecho del Trabajo y de la Seguridad Social. Homenaje al profesor Santiago González Ortega, Barcelón Cobedo, S.; Carrero Domínguez, C. y De Soto Rioja, S., Coords., Monografías de Temas Laborales, núm. 64, 2023, p. 237.

87 Cabe citar, a título ejemplificativo, el art. 80.5 XXIV CC del sector de la banca, en virtud del cual: “Las nuevas herramientas basadas en algoritmos pueden aportar valor hacia una gestión más eficiente de las empresas, ofreciendo mejoras en sus sistemas de gestión. Sin embargo, el desarrollo creciente de la aportación de la tecnología requiere de una implantación cuidadosa cuando se aplica en el ámbito de las personas. Por ello, las personas trabajadoras tienen derecho a no ser objeto de decisiones basadas única y exclusivamente en variables automatizadas, salvo en aquellos supuestos previstos por la Ley, así como derecho a la no discriminación en relación con las decisiones y procesos, cuando ambos estén basados únicamente en algoritmos, pudiendo solicitar, en estos supuestos, el concurso e intervención de las personas designadas a tal efecto por la empresa, en caso de discrepancia. Las empresas informarán a la representación legal de los trabajadores sobre el uso de la analítica de datos o los sistemas de inteligencia artificial cuando los procesos de toma de decisiones en materia de recursos humanos y relaciones laborales se basen exclusivamente en modelos digitales sin intervención humana. Dicha información, como mínimo, abarcará los datos que nutren los algoritmos, la lógica de funcionamiento y la evaluación de los resultados”.

88 Alvarez Cuesta, H.: “El impacto de la tecnología en las relaciones laborales: retos presentes y desafíos futuros”, Revista Justicia y Trabajo, núm. 2, 2023, p. 45.

89 https://portal.mineco.gob.es/es-es/ministerio/areas-prioritarias/Paginas/inteligencia-artificial.aspx

91 Fernández García, A.: “Inteligencia artificial y discriminación en el trabajo”, en La mujer ante los retos del trabajo 4.0, Romero Burillo, A.M., Dir., Pamplona, Aranzadi, 2023, p. 97.

92 Rivas Vallejo, P.: “La gestión analítica de personas en la era digital: su impacto sobre los derechos fundamentales”, en De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Molina Navarrete, C. y Vallecillo Gámez, M.R., Dirs., Pamplona, Aranzadi, 2021, p. 278.

93 García Quiñones, J.C.: “Inteligencia artificial y relaciones laborales: entre la significación creciente de los algoritmos y el desmentido de su neutralidad aparente”, Temas Laborales, núm. 167, 2023, p. 87.

94 Ginnes I Fabrellas, A.: “Sesgos discriminatorios en la automatización de decisiones en el ámbito laboral: evidencias de la práctica”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 321.

95 Rivas Vallejo, P.: “La gestión analítica de personas en la era digital: su impacto sobre los derechos fundamentales”, en De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva, Molina Navarrete, C. y Vallecillo Gámez, M.R., Dirs., Pamplona, Aranzadi, 2021, p. 272.

96 Cruz Villalón, J.: “El impacto de la digitalización sobre los derechos fundamentales laborales”, en Vigilancia y control en el Derecho del Trabajo Digital, Pamplona, Aranzadi, 2020, p. 60.

97 Gómez Gordillo, R.: “El poder de dirección y los algoritmos”, Estudios de Derecho del Trabajo y de la Seguridad Social. Homenaje al profesor Santiago González Ortega, Barcelón Cobedo, S.; Carrero Domínguez, C. y De Soto Rioja, S., Coords., Monografías de Temas Laborales, núm. 64, 2023, p. 233.

98 Ginnes I Fabrellas, A.: “Sesgos discriminatorios en la automatización de decisiones en el ámbito laboral: evidencias de la práctica”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 325.

99 Kahale Carrillo, D.T.: “Los algoritmos en las relaciones laborales”, Relaciones laborales e industria digital: redes sociales, prevención de riesgos laborales, desconexión y trabajo a distancia en Europa, Fernández Collados, M.B., Dir., Pamplona, Aranzadi, 2022, p. 53. En una perspectiva más general, Pérez de los Cobos Orihuel, F., y Thibault Aranda, X. (Dirs.): El trabajo a distancia, Madrid, La Ley, 2021.

100 Comisión Europea: Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones “Generar confianza en la inteligencia artificial centrada en el ser humano”, 8 de abril de 2019.

101 Comité Económico y Social Europeo: Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad (INT/806/2016), que recomienda encarecidamente que “la Ley de Inteligencia Artificial contemple que determinadas decisiones sigan correspondiendo a las personas, especialmente en ámbitos donde estas decisiones tengan un elemento moral e implicaciones jurídicas o repercusión social, como en los ámbitos judicial y policial, los servicios sociales, la sanidad, la vivienda, los servicios financieros, las relaciones laborales y la enseñanza”.

102 Comisión Europea: Generar Confianza en la inteligencia artificial centrada en el ser humano. Comunicación de la Comisión al Parlamento Europeo y al Consejo, al Comité Económico y social Europeo y al Comité de las Regiones, Bruselas, 8 de abril de 2019 [COM (2019) 168 final].

103 Agencia Española de Protección de Datos: La protección de datos en las relaciones laborales, Madrid, AEPD, 2021, p. 24.

104 Agencia Española de Protección de Datos: Adecuación al RPD de tratamientos que incorporan Inteligencia Artificial. Una introducción, Madrid, AEPD, 2020, p. 22.

105 Mercader Uguina, J.R.: Algoritmos e inteligencia artificial en el derecho digital del trabajo, Valencia, Tirant Lo Blanch, 2021, p. 190.

106 Fernández Fernández, R.: Selección de trabajadores y algoritmos: desafíos ante las nuevas formas de reclutamiento, Pamplona, Aranzadi, 2022, p. 79.

107 Todolí Signes, A.: “Riesgos laborales derivados del uso de algoritmos: impacto de género”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 344.

108 VV.AA.: Guía de auditoría algorítmica, Barcelona, Éticas Research and Consulting S.L, 2021, p. 6.

109 Agencia Española de Protección de Datos: Adecuación al RPD de tratamientos que incorporarán inteligencia artificial. Una introducción, Madrid, AEPD, 2020, p. 7.

110 Álvarez Cuesta, H.: “Inteligencia artificial: derecho de la UE y derecho comparado: la propuesta de una Ley sobre IA”, en Discriminación algorítmica en el ámbito laboral: perspectiva de género e intervención, Rivas Vallejo, P., Dir., Pamplona, Aranzadi, 2022, p. 399.

111 UGT: Las decisiones algorítmicas en las relaciones laborales, Madrid, UGT, 2021, pp. 6-7.

112 Mercader Uguina, J.R.: Algoritmos e inteligencia artificial en el derecho digital del trabajo, Valencia, Tirant Lo Blanch, 2021, p. 188.

113 Aragüez Valenzuela, L.: “El papel de los representantes de los trabajadores y la negociación colectiva ante la toma automatizada de decisiones empresariales mediante algoritmos digitales”, Revista Internacional y Comparada de Relaciones Laborales y Derecho del Empleo, vol. 11, núm. 1, 2023, p. 129.

114 Rivas Vallejo, P.: “Sesgos de género en el uso de inteligencia artificial para la gestión de las relaciones laborales: análisis desde el derecho antidiscriminatorio”, e-Revista Internacional de Protección Social, vol. II, núm. 1, 2022, p. 61.

115 González Cobaleda, E.: “Nuevas tecnologías, tiempo de trabajo y prevención de riesgos psicosociales”, en Anuario internacional sobre prevención de riesgos psicosociales y calidad de vida en el trabajo, Madrid, UGT, 2016, p 267.

116 Rodríguez Cardo, I.A.: “Decisiones automatizadas y discriminación algorítmica en la relación laboral: ¿hacia un Derecho del Trabajo de dos velocidades?”, Nueva Revista Española de Derecho del Trabajo, núm. 253, 2022.

117 Gobierno de España: Carta de Derechos Digitales, 2021, p. 23.

118 Vila Tierno, F.: “El impacto de la transformación digital en el ámbito laboral: una especial atención a los colectivos vulnerables”, El empleo de los colectivos vulnerables en el marco de la transformación tecnológica: una aproximación jurídico-social, Gómez Salado, M.A. y Ruíz Santamaría, J.L., Dir., Granada, Comares, 2022, p. 24.

119 Goñi Sein, J.L.: “Innovaciones tecnológicas, inteligencia artificial y derechos humanos en el trabajo”, Documentación Laboral, núm. 117, vol. II, 2019, p. 69.