La regulación de la gestión algorítmica del trabajo

La gestión algorítmica del trabajo se ha convertido en una realidad creciente en las relaciones laborales, más allá del ámbito de las plataformas digitales. Esta monografía analiza la respuesta jurídica que está articulando la Unión Europea ante el uso de sistemas automatizados de seguimiento y de toma de decisiones en el trabajo, con especial atención a la protección de los derechos de las personas trabajadoras.

La obra examina los principales elementos del modelo europeo en construcción: las limitaciones al tratamiento de determinados datos personales, la transparencia algorítmica, las evaluaciones de impacto, la seguridad y salud laboral, los derechos de información y consulta de la representación de los trabajadores, la supervisión humana y la revisión de decisiones automatizadas. El estudio presta una atención particular al principio de control humano en sus distintas fases —antes, durante y después de la decisión algorítmica— y a la relación entre la normativa laboral, la protección de datos y la regulación europea de la inteligencia artificial.

El resultado es una visión sistemática de los retos que plantea la gestión algorítmica del trabajo y de las garantías jurídicas que comienzan a configurar un Derecho algorítmico del trabajo en el ámbito europeo.

Introducción: ¿Hacia un modelo europeo de regulación de la gestión algorítmica del trabajo? Entre la propuesta de “Directiva horizontal” y el paquete “Omnibus Digital” — 13

I.- Aspectos conceptuales y componentes estructurales del modelo de ordenación — 29

1. La noción funcional e implícita de “gestión algorítmica del trabajo” de la Directiva sobre trabajo en plataformas como base conceptual del modelo europeo: el uso de sistemas automatizados de seguimiento (SAS) y/o de sistemas automatizados de toma de decisiones (SATD) — 29

2. Un modelo de ordenación de la “gestión algorítmica del trabajo” sustentado sobre la normativa de protección de datos personales y la “gestión del riesgo”: entre el Derecho digital y el Derecho algorítmico del trabajo — 47

3. Los elementos del modelo de ordenación y las diversas dimensiones del “principio del control humano”: a) “humans in the loop”; b) “ humans before the loop”; c) “ humans after the loop” , y d) “humans on the loop” — 62

II.- Las líneas rojas del modelo regulador: limitaciones o prohibiciones a la gestión algorítmica del trabajo — 73

1. Tratamiento de datos personales sobre el estado emocional, y también psicológico: ¿a la espera de los neuroderechos laborales? — 78

2. Tratamiento de datos personales (y metadatos) sobre conversaciones y comunicaciones privadas: entre la tutela de la privacidad y de los derechos relativos a la actividad sindical — 82

3. La recogida de datos personales cuando no se está ofreciendo ni realizando trabajo: el reconocimiento de un derecho a la desconexión en la monitorización laboral — 89

4. El tratamiento de datos personales para predecir el ejercicio de derechos fundamentales y, en particular, de organización y actuación colectiva: la tutela preventiva de los derechos de ciudadanía y frente a la antisindicalidad — 92

5. Los tratamientos de datos para “inferir” categorías especiales de datos personales y otras situaciones de vulnerabilidad: ¿una tutela complementaria a la del artículo 9 RGPD? — 97

6. El tratamiento de datos biométricos para el establecimiento de la identidad, mediante el almacenamiento en bases de datos: apuntes para la reconstrucción de una prohibición deficientemente formulada — 100

III.- El derecho a la transparencia algorítmica. Los deberes de información sobre la gestión algorítmica del trabajo y sus términos de ejercicio — 107

1. Plano material u objetivo — 112

2. Planos subjetivo y temporal: — 127

3. Planos formal y modal — 136

4. El derecho a la portabilidad: ¿solamente relevante para el trabajo en plataformas? — 138

IV .- La evaluación de impacto relativa a la protección de datos (EIPD) y su proyección sobre las condiciones de trabajo como garantía procedimental “ex ante” (“humans before the loop”) — 141

1. La consolidación de las evaluaciones de impacto en materia de protección de datos (EIPD) como herramienta de gobernanza de la IA en el trabajo — 141

2. Las insuficiencias de las EIPD, circunscrita al contexto del despliegue, a los efectos de articular una tutela laboral integral en materia de IA — 144

3. La laboralización de la EIPD: una evaluación centrada en el impacto de los SAS y/o SATD sobre las condiciones de trabajo en el contexto organizativo de su despliegue — 147

4. El itinerario procedimental: los contenidos, fases y operaciones de la EIPD: ¿un trámite adecuado para diseñar medidas de alfabetización digital? — 149

5. Sobre la virtualidad de tutela jurídico‑laboral de las EIPD: algunas consideraciones adicionales — 162

V .- Gestión algorítmica del trabajo y seguridad y salud laboral — 167

1. Sistemas de gestión algorítmica y riesgos laborales: un panorama ambivalente — 167

2. La prevención de riesgos laborales en los sistemas de IA: algunas claves para la interpretación coordinada del RIA y la normativa de prevención de riesgos laborales — 170

3. La protección de la seguridad y salud en la Directiva sobre condiciones de trabajo en plataformas: un esquema normativo extrapolable a la totalidad de los entornos laborales — 176

VI.- Los derechos de información y consulta de los representantes de los trabajadores en materia de gestión algorítmica — 185

1. La información y consulta sobre la introducción de SAS y/o SATD o la modificación sustancial en su utilización — 185

2. De la consulta a la negociación colectiva del algoritmo: del reenvío al papel promocional de los Estados miembros a la acotación del deber de negociar — 192

3. Sobre los retos para el avance de la negociación colectiva en materia de IA: breves apuntes — 195

4. ¿Hacia un derecho a la codeterminación en materia de despliegue de la IA en la empresa, como punto de llegada en el desarrollo la democracia en el trabajo? — 197

VII.- La supervisión humana y evaluación de la gestión algorítmica del trabajo (“humans on the loop”). Las obligaciones de auditoría algorítmica — 199

1. Las obligaciones de supervisión permanente y de evaluación periódica de los sistemas de gestión algorítmica del trabajo: rasgos básicos de su diseño normativo — 199

2. La auditoría algorítmica en la fase de despliegue y su articulación con el RIA: su extensión más allá del trabajo de plataformas — 205

VIII.- La prohibición de adopción de decisiones totalmente automatizadas (“humans in the loop”): su alcance aplicativo, en el esquema normativo de círculos concéntricos — 215

IX.- La explicación, revisión y rectificación de las decisiones automatizadas: la intervención humana “ex post” y “ad casum” (“humans after the loop”) — 225

1. El derecho a la obtención de una explicación — 227

2. El derecho a la revisión de las decisiones — 233

3. El derecho a la rectificación de la decisión — 236

4. El derecho al resarcimiento de los daños — 237

5. La obligación de adoptar medidas de modificación, suspensión (o análogas) de los sistemas automatizados de tomas de decisión — 238

Bibliografía — 241