El derecho del trabajo ante la inteligencia artificial

EL DERECHO DEL TRABAJO ANTE LA INTELIGENCIA ARTIFICIAL TFG presentado por Antonio Lorenzo González Curso académico 2021/2022 Tutor: José María Miranda Boto RESUMEN Durante los últimos años la inteligencia artificial ha irrumpido en el ámbito laboral y es previsible que en los próximos tiempos continúe ganando protagonismo. Las nuevas herramientas algorítmicas a disposición del empresario gozan de una gran potencialidad, ya que pueden ser empleadas en múltiples tareas y acompañar al trabajador a lo largo de la relación laboral. Sin embargo, también entrañan relevantes retos jurídicos. En el presente trabajo se analizan los desafíos que la utilización de la inteligencia artificial en el ámbito laboral plantea para el Derecho del Trabajo. Antes de abordar esos diversos usos y el marco jurídico en el que han de desarrollarse, se realizan una serie de precisiones conceptuales sobre estas nuevas tecnologías y se esboza el importante e incierto papel del Derecho ante ellas. Tras ello, se examinan una serie de obligaciones, principalmente de información, que con carácter general ha de cumplir el empresario cuando emplee estas herramientas. Seguidamente se estudian los posibles usos de la inteligencia artificial en el proceso de selección de personal y como instrumento al servicio de los poderes de dirección y control empresarial, así como los riesgos para los derechos de los trabajadores derivados de esa utilización. De entre ellos se presta especial atención al derecho a la protección de datos personales y al derecho a la no discriminación. PALABRAS CLAVE: inteligencia artificial, algoritmos, selección de personal, poder de control empresarial, big data, protección de datos, discriminación, sesgos algorítmicos. 2 ÍNDICE ABREVIATURAS 4 1. INTRODUCCIÓN 6 2. DERECHOS DE INFORMACIÓN SOBRE EL USO DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO LABORAL 9 2.1 El nuevo derecho de información de la representación de los trabajadores 9 2.2 El derecho individual de información del RGPD 15 2.3 Otras posibles obligaciones del empleador ante el uso de inteligencia artificial 16 3. INTELIGENCIA ARTIFICIAL Y SELECCIÓN DE PERSONAL 17 3.1 Las huellas del algoritmo en el proceso de selección 18 3.2 Nuevos desafíos para los derechos de los trabajadores 20 3.2.1 Derecho a la no discriminación 22 3.2.2 Derecho a la protección de datos personales 24 4. INTELIGENCIA ARTIFICIAL, DIRECCIÓN Y VIGILANCIA EN EL ÁMBITO LABORAL 29 4.1 Las nuevas tecnologías algorítmicas: otra vuelta de tuerca a los poderes de dirección y control del empresario 29 4.2 El poder de control empresarial y sus límites 31 4.2.1 Derecho a la no discriminación 33 4.2.2 Derecho a la protección de datos personales 34 4.2.3 Derecho a la seguridad y salud laboral 35 5. CONCLUSIONES 37 6. BIBLIOGRAFEA 39 3 ABREVIATURAS -AEPD: Agencia Española de Protección de Datos -Art.: artículo -CE: Constitución Española -CEDH: Convenio Europeo de Derechos Humanos -Dir.: Director -ET: Real Decreto Legislativo 2/2015, de 23 de octubre, por el que se aprueba el texto refundido de la Ley del Estatuto de los Trabajadores -Et al.: et alii (y otros) -GT 29: Grupo de Trabajo del Artículo 29 (Article 29 Working Party) -Ibid.: ibidem (en el mismo lugar) -LE: Real Decreto Legislativo 3/2015, de 23 de octubre, por el que se aprueba el texto refundido de la Ley de Empleo -LISOS: Real Decreto Legislativo 5/2000, de 4 de agosto, por el que se aprueba el texto refundido de la Ley sobre Infracciones y Sanciones en el Orden Social -LJS: Ley 36/2011, de 10 de octubre, reguladora de la jurisdicción social -LPRL: Ley 31/1995, de 8 de noviembre, de prevención de Riesgos Laborales -LOLS: Ley Orgánica 11/1985, de 2 de agosto, de Libertad Sindical -LOPDP: Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales -Op. cit.: opere citato (en la obra citada) -P.: página -RDL: Real Decreto-ley -RGPD: Reglamento General de Protección de Datos Personales (Reglamento (UE) 2016/679 del Parlamento y del Consejo de 27 de abril de 2016) -STC: Sentencia del Tribunal Constitucional -STS: Sentencia del Tribunal Supremo 4 -TEDH: Tribunal Europeo de Derechos Humanos -TC: Tribunal Constitucional -TS: Tribunal Supremo -UE: Unión Europea 5 1. INTRODUCCIÓN. EL DERECHO ANTE LA INTELIGENCIA ARTIFICIAL Desde que en 1955 McCarthy, Minsky, Rochester y Shannon utilizaran por primera vez el término “inteligencia artificial”, se ha ido formando una tupida nebulosa de definiciones de este concepto1. Sus perfiles están en permanente moviemiento, lo que impide fijar de manera definitiva su contenido2. No obstante, es preciso dar una definición aproximativa para enmarcar el ámbito del presente trabajo. A estos efectos, parece adecuada la fijada por la Comisión Europea, según la cual el término inteligencia artificial “se refiere a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos”3. Ahora bien, actualmente se prefiere emplear el término racionalidad4 en vez de inteligencia a la hora de definir la inteligencia artificial, entendiendo que un sistema es racional cuando hace lo correcto a partir de lo que conoce5. Así, un sistema de inteligencia artificial, en primer lugar, percibe su entorno mediante sensores que le permiten recopilar datos, que someterá a operaciones de tratamiento de información y razonamiento. Por tanto, en este punto deberá ser capaz de transformar los datos en información y razonar a partir de esta para elegir la acción óptima en relación con el objetivo específico del sistema6. En cualquier caso, hay que tener en cuenta que la inteligencia artificial es un campo muy complejo que abarca disciplinas y técnicas muy diversas, que a grandes rasgos podemos dividir en dos categorías: una relativa al razonamiento y adopción de decisiones, y otra al aprendizaje7. Este último tipo goza de gran importancia porque incluye las técnicas de aprendizaje automático (machine learning), cuyos rápidos avances han sido claves para el reciente impulso que ha tomado la inteligencia artificial8. Así, mediante el aprendizaje automático el algoritmo es capaz de encontrar su propia solución al problema planteado y de mejorar y adaptar su respuesta a través del análisis de datos. Es decir, se introducen en el sistema “ejemplos de comportamiento de entrada y salida” para que generalice a partir de ellos y se comporte correctamente ante 1 Se puede encontrar una exhaustiva lista de definiciones en COMISIÓN EUROPEA. JOINT RESEARCH CENTER. AI Watch. Defining Artificial Intelligence. Towards an operational definition and taxonomy of artificial intelligence. Luxemburgo: Publications Office of the European Union, 2020. 2 STONE, Peter et al. Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016 Study Panel. Stanford: Stanford University, 2016, pp. 12 y 13. 3 Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones. Inteligencia Artificial para Europa. 26 de junio de 2018. COM(2018)237. 4 COMISIÓN EUROPEA. HLEGIA. Una definición de Inteligencia Artificial: principales capacidades y disciplinas científicas. Bruselas: Comisión Europea, 2019, p. 1. 5 COMISIÓN EUROPEA. JOINT RESEARCH CENTER. Op. cit., p. 7. 6 COMISIÓN EUROPEA. HLEGIA. Op. cit., pp. 2 y 3. 7Idem, pp. 5 a 7. 8 STONE, Peter et al. Op. cit., p 14. 6 situaciones no descritas en esos ejemplos9. Aquí reside la diferencia con las técnicas propias de la “primera ola” de inteligencia artificial, en las que se codificaba directamente el conocimiento y experiencia de los expertos en conjuntos de reglas que el sistema pudiese ejecutar10. Por último, es preciso definir brevemente un par de términos que suelen acompañar al de inteligencia artificial y que serán empleados a lo largo del presente trabajo. Por un lado, por algoritmo entendemos “un conjunto de reglas que definen cómo realizar una tarea o resolver un problema”, empleándose en el ámbito de la inteligencia artificial para referirse al “código informático que define cómo procesar los datos”11. Big data, de nuevo un concepto más amplio que el de inteligencia artificial y fundamental para las técnicas de aprendizaje automático, consiste en “conjuntos de datos que son tan grandes y complejos que no pueden almacenarse o procesarse eficazmente mediante métodos tradicionales”12. En este marco, los nuevos avances tecnológicos, desde la inteligencia artifical hasta la biotecnología o la computación cuántica, están impulsando una profunda transformación a nivel económico, social y, más concretamente y en lo que aquí interesa, laboral. En los últimos años han proliferado diversos conceptos que tratan de crear un marco en el que situar y entender estos grandes cambios: cuarta revolución industrial13, capitalismo de la información14 o capitalismo de la vigilancia15 son algunos ejemplos de ello. La inteligencia artificial, vector principal de este proceso, plantea importantes desafíos para el sistema democrático, el Estado de derecho y la protección de los derechos fundamentales16 en forma de falta de control y de transparencia en procesos de toma de decisiones, inintelegibilidad de sus resultados, tratamiento masivo de datos personales o sesgos algorítmicos con consecuencias discriminatorias o injustas. Estos riesgos hacen imprescindible una reflexión ética para definir los principios y valores que deben guiar el diseño y uso de la inteligencia artificial e inspirar la consiguiente respuesta jurídica. Ha habido ya muchas iniciativas destinadas a evaluar las implicaciones éticas de la inteligencia artificial, entre las que destacan la Declaración de Montreal de 2017 sobre el desarrollo responsable de estas herramientas, 9 COMISIÓN EUROPEA. HLEG IA. Op. cit., p. 6. 10 BOUCHER, Philip. Artificial intelligence: How does it work, why does it matter and what can we do about it? Brussels: European Parliament, 2020, p. 2. 11 Idem, p. VI. 12 Idem. 13 SCHWAB, Klaus. The Fourth Industrial Revolution. Foreign Affairs. 2015. Disponible en: https://www.foreignaffairs.com/articles/2015-12-12/fourth-industrial-revolution 14 COHEN, Julie. Between Truth and Power. The Legal Construction of Information Capitalism. Oxford: Oxford University Press, 2020. 15 ZUBOFF, Shoshana. La era del capitalismo de la vigilancia. Barcelona: Paidós, 2020. 16 SIMONCINI, Andrea y LONGO, Eric. Fundamental Rights and the Rule of Law in the Algorithmic Society. En: MICKLITZ, H. W. et al. (ed.). Constitutional Challenges in the Algorithmic Society. Cambridge: Cambridge University Press, 2021, pp. 27 a 41. 7 los Principios Asilomar de 2017, el Informe de IEEE de 2016-17 sobre diseño ético de la inteligencia artificial o la Recomendación del Consejo de Inteligencia Artificial de la OCDE de 2019. Es este un terreno en el que la Unión Europea está “en la vanguardia mundial”17, tal y como refleja el trabajo de diferentes grupos de expertos y las diversas resoluciones y comunicaciones del Parlamento Europeo y la Comisión. Así, la existencia de un marco ético es uno de los pilares de la inteligencia artificial fiable, concepto alrededor de cual gira la actuación europea en esta materia18. Tomando como punto de partida el respeto a la dignidad humana y los derechos fundamentales19, el Grupo de Expertos de Alto Nivel en inteligencia artificial creado por la Comisión ha fijado cuatro principios éticos esenciales en el contexto de los sistemas de inteligencia artificial: el respeto a la autonomía humana, la prevención del daño, la equidad y la explicabilidad y transparencia20. Junto con la ética y la robustez técnica, el otro componente de la inteligencia artificial fiable es la licitud, esto es, el respeto a las normas jurídicas aplicables21, que deben guardar coherencia con los principios y valores éticos. Ahora bien, son muchos y diversos los retos jurídicos que plantea la inteligencia artificial. En este trabajo se van a analizar aquellos que, en el ámbito laboral, se pueden calificar de sustanciales o materiales, como los relativos a la intimidad, la protección de datos o la no discriminación. Pero es preciso hacer una breve mención a aquellos otros que se podrían calificar de regulatorios, es decir, relativos a la metodología y el modelo normativo a emplear para abordar los primeros22. Se ha advertido de las carencias de un “enfoque por disciplinas” en el que la reacción a los desafíos planteados por la inteligencia artificial se realice aisladamente desde cada sector del ordenamiento, lo que puede provocar desajustes normativos y lagunas que malogren los resultados perseguidos23. Por ello es necesaria una respuesta jurídica integral a estos desafíos, lo que no obsta para que esta se adapte y concrete sectorialmente según el ámbito en el que se manifiesten, ni significa que sea recomendable aislarla en un “Derecho de la inteligencia artificial”, como tampoco lo fue ante avances tecnológicos pasados como internet24. Petit propone adaptar las exigencias 17 COTINO, Lorenzo. Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho. Revista catalana de dret públic. 2019, n.º 58, p. 33. 18 COMISIÓN EUROPEA. HLEG IA. Op. cit., pp. 7 y 8. 19 COTINO, Lorenzo. Ética en el diseño… Op. cit., p. 8. 20 COMISIÓN EUROPEA. HLEGIA. Op. cit., pp. 16 a 18. 21 Idem. 22 PETIT, Nicolas. Law and Regulation of Artificial Intelligence and Robots. Conceptual Framework and Normative Implications. 2017. Disponible en: https://papers.ssrn.com/sol3/papers.cfm? abstract_id=2931339 Pp. 2 y 3. 23 Idem. 24 EASTERBROOK, Frank. Cyberspace and the Law of the Horse. University of Chicago Legal Forum. 1996, n.º 1, art. 7. Disponible en: https://chicagounbound.uchicago.edu/cgi/viewcontent.cgi? article=1204&context=uclf 8 normativas según las externalidades que implica cada sistema de inteligencia artificial25, perspectiva muy similar a la empleada en la propuesta de Reglamento sobre inteligencia artificial presentada por la Comisión26 y que aumenta la capacidad de adaptación de unas normas que se han de proyectar sobre un fenómeno cuyo contenido ni siquiera está claro27. Regular una realidad aún en desarrollo y expansión, sujeta a cambios constantes y técnicamente muy compleja presenta una problemática adicional frente a la que se ha esgrimido la necesidad de acercarse a nuevos instrumentos normativos más dinámicos y que incluyan remisiones a lo determinado por órganos capacitados técnicamente28 que permitan subsanar la falta de conocimientos del regulador tradicional29. Un ejemplo de ello son los códigos de conducta30. Así, el campo de la inteligencia artificial, especialmente a nivel laboral y empresarial, puede ser fecundo para el empleo de fórmulas autorregulatorias y de soft law, que encuentran buen acomodo en un momento de crisis del sistema de fuentes del derecho puramente positivista, a pesar de las dudas sobre su verdadero carácter normativo y su legitimidad democrática31. 2. DERECHOS DE INFORMACIÓN SOBRE EL USO DE INTELIGENCIA ARTIFICIAL EN EL ÁMBITO LABORAL 2.1 El nuevo derecho de información de la representación de los trabajadores La inteligencia artificial plantea numerosos retos en el ámbito laboral, hasta el punto de que se ha llegado a afirmar que el cambio tecnológico que abandera “anuncia una verdadera disrupción en los modos y formas de entender el futuro próximo de la idea de trabajo y ello obliga, necesariamente, a repensar el papel del Derecho frente a esa ola de cambios”32. Pues bien, el legislador español dio su primer paso en este incierto camino con la aprobación del breve Real Decreto-ley 9/2021, cuya exposición 25 PETIT, Nicolas. Op. Cit., pp. 25 a 30. 26 Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial y se modifican determinados actos legislativos de la Unión. Presentada el 21 de abril de 2021. 27 STONE, Peter et al. Op. cit., pp. 12 y 13. 28 COTINO, Lorenzo. Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo. 2019, n.º 50, p. 23. 29 CALO, Ryan. Artificial Intelligence Policy: A Primer and Roadmap. University of Bologna Law Review. 2018, vol. 3, n.º 2, pp. 22 y 23. 30 Diversos informes recomiendan su elaboración en materia de IA. Por ejemplo: COMISIÓN EUROPEA. HLEGAI. Op. cit., p. 30. 31 GARCEA RUBIO, María Paz. Responsabilidad social empresarial y autorregulación. Los códigos de conducta y las fuentes del Derecho. Boletín del Ministerio de Justicia. 2012, n.º 2141. 32 MERCADER UGUINA, Jesús. Nuevos escenarios para el Estatuto de los Trabajadores del siglo XXI: digitalización y cambio tecnológico. Trabajo y derecho: nueva revista de actualidad y relaciones laborales. 2020, n.º 63, p. 2. 9 en que se tomen ese tipo de decisiones los arts. 13.2 f) y 14.2 g)71 prevén el derecho del interesado a ser informado sobre ellas, concretamente “sobre la lógica aplicada, así como la importancia y las consecuencias previstas de dicho tratamiento”. Por su parte, el art. 15.1 h) RGPD dispone que el interesado tiene derecho a que el responsable del tratamiento le confirme si se están tratando datos personales suyos y, en caso afirmativo, a acceder a ellos. El contenido de este derecho de información es, en esencia, el mismo que el del art. 64.4 d) ET72. Sin embargo, entre ambos derechos hay importantes diferencias. En primer lugar, los mencionados artículos del RGPD no se refieren en concreto al uso de inteligencia artificial o algoritmos a nivel laboral, aunque pueden aplicarse a este ámbito73. En segundo lugar, se trata de un derecho de carácter individual, su titular es el interesado, frente al carácter colectivo del art. 64 ET74. En consecuencia, todas las empresas tienen esta obligación de información, aunque no exista representación legal de la plantilla75. Por último, el art. 22 RGPD solo se aplica cuando las decisiones automáticas son tomadas sin intervención humana significativa, a diferencia del derecho colectivo de información, que también abarca las decisiones semiautomatizadas76. 2.3 Otras posibles obligaciones del empleador ante el uso de inteligencia artificial Es preciso preguntarse por la posible existencia de otras obligaciones a las que las empresas que utilizan inteligencia artificial a nivel laboral pueden estar sujetas con carácter general. Por un lado, no existe la obligación de negociar el algoritmo con la representación de la plantilla, aunque la negociación colectiva puede introducirla77. Ahora bien, cuando se empleen algoritmos para acometer despidos colectivos estos habrán de someterse a negociación en el marco del periodo de consultas previsto en el art. 51 ET, al igual que ocurrirá cuando se tomen otras medidas de modificación o suspensión del contrato (modificación sustancial de condiciones de trabajo a través del art. 41.4 ET, movilidad geográfica conforme al art. 40.2 ET o expedientes de regulación temporal de empleo de acuerdo con el art. 47.3 ET)78. Además, la representación de los trabajadores tiene un derecho de información y consulta ante la introducción de algoritmos para la gestión de personal con base en el art. 64.5 ET79. 71 El primero de ellos se refiere a la información que debe facilitarse cuando los datos personales se obtengan del interesado, mientras que el segundo a los demás casos. 72 MINISTERIO DE TRABAJO Y ECONOMEA SOCIAL. Op. cit., p. 11. 73 Ídem, p. 9. 74 TODOLE SIGNES, Adrián. Op. cit., p. 19. 75 MINISTERIO DE TRABAJO Y ECONOMEA SOCIAL. Op. cit., p. 10. 76 Idem, p. 15. 77 Idem, p. 17. 78 Idem, p. 18. 79 Idem. 16 Por otro lado, no existe la obligación de realizar una auditoría algorítmica, aunque sea recomendable, ya que permite a las empresas “demostrar una mayor diligencia para proteger los derechos fundamentales” de los trabajadores80 y asegurarse de la adecuación del sistema de inteligencia artificial a la normativa aplicable, especialmente al RGPD81. Además, permite comprobar si los resultados de un sistema de toma de decisiones automatizadas son coherentes y precisos82. La AEPD ya ha elaborado una guía para realizar auditorías de tratamientos que incluyan inteligencia artificial83. Ahora bien, a pesar de no existir una obligación a realizar auditorías algorítmicas, “en el contexto de un diagnóstico para la elaboración de un Plan de Igualdad84, la empresa debe incluir […] el impacto o los efectos en materia de igualdad entre hombres y mujeres de los algoritmos y sistemas de decisión automatizada”85. En otro orden de cosas, el art. 35 RGPD sí impone al responsable del tratamiento de datos la obligación de realizar una evaluación de impacto cuando “el tratamiento entrañe un alto riesgo para los derechos y libertades de las personas físicas”, en particular si se utilizan nuevas tecnologías. En todo caso, de acuerdo con la letra a) del apartado tercero de dicho artículo habrá de realizarse la evaluación siempre que se lleve a cabo una “evaluación sistemática y exhaustiva de aspectos personales de personas físicas que se base en un tratamiento automatizado, como la elaboración de perfiles, y sobre cuya base se tomen decisiones que produzcan efectos jurídicos para las personas físicas o que les afecten significativamente”. Por tanto, la empresa tiene la obligación de realizar una evaluación de impacto cuando utilice algoritmos e inteligencia artificial86. Concretamente, debe realizarse antes de que se inicie el tratamiento de los datos, es decir, durante el diseño y la implementación del sistema de inteligencia artificial, de manera que se puedan identificar sus posibles defectos e introducir las medidas de privacidad adecuadas para resolverlos87. Como mínimo, la evaluación de impacto habrá de describir las operaciones previstas y los fines del tratamiento, analizar la necesidad y la proporcionalidad de dichas operaciones en relación con su finalidad, evaluar los riesgos para los derechos y libertades de las personas y, por último, detallar las medidas a adoptar para hacer frente a los riesgos del tratamiento88. 80 Idem, p. 21. 81 AEPD. Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. Madrid: 2020, p. 45. 82 Ídem, pp. 46 y 47. 83 AEPD. Requisitos para Auditorías de Tratamientos que incluyan IA. Madrid. 2021. 84 Recuérdese que, conforme al art. 45 de la LO 3/2007 para la Igualdad Efectiva de Mujeres y Hombres, las empresas deberán obligatoriamente elaborar un Plan de Igualdad cuando así se establezca en el convenio colectivo y, en todo caso, cuando tengan cicuenta o más trabajadores. 85 MINISTERIO DE TRABAJO Y ECONOMEA SOCIAL. Op. cit., p. 21. 86 Idem, p. 19. 87 AEPD. Op. cit., p. 31. 88 MINISTERIO DE TRABAJO Y ECONOMEA SOCIAL. Op. cit., p. 20. 17 3. INTELIGENCIA ARTIFICIAL Y SELECCIÓN DE PERSONAL 3.1 Las huellas del algoritmo en el proceso de selección Ya es casi un tópico decir que, en muchos casos, los algoritmos se están convirtiendo en los nuevos jefes89, pero lo cierto es que la realidad muestra que la presencia de la inteligencia artificial en algunas empresas es tan intensa que “parece que el empresario está dispuesto a delegar o […] descentralizar parte de sus poderes tradicionales” dejando en manos de los algoritmos cada vez más decisiones90. Ello sucede con especial intensidad en el ámbito de los recursos humanos, persiguiendo al trabajador a lo largo de toda la relación laboral y también, como en las líneas que siguen se analiza, en sus etapas preliminares. Así, el hecho de que el ya analizado derecho de información algorítmica del art. 64.4 d) ET comprenda el acceso al empleo, esto es, los momentos previos a la celebración del contrato, no es baladí. Bien al contrario, responde a una realidad cada vez más asentada: el uso de inteligencia artificial en los procesos de selección de personal. A este respecto, hay quien distingue entre dos tipos de uso según su finalidad: la imitación del poder empresarial y su control91. Este último consistiría en fiscalizar las decisiones empresariales en materia de recursos humanos a través de un análisis integral de las mismas que permita identificar sesgos y garantizar el cumplimiento de la normativa vigente92. Sin embargo, el presente apartado se centra sobre todo en la primera categoría de uso: aquella que interviene directamente en la toma de decisiones del empleador, ya sea con mayor o menor intensidad93. Son varias las razones que explican por qué las empresas, especialmente las de mayores dimensiones, emplean herramientas basadas en la inteligencia artificial en el proceso de selección de personal. En primer lugar, permite reducir el tiempo empleado en cubrir vacantes, lo que a su vez minimiza las posibilidades de que los candidatos abandonen el proceso y libera recursos que podrán ser empleados para otros fines94. En segundo lugar, reduce los costes generados por la contratación de un trabajador95. Por 89 ROOSE, Kevin. A Machine May Not Take Your Job, but One Could Become Your Boss. The New York Times. 2019. Disponible en: https://www.nytimes.com/2019/06/23/technology/artificialintelligence-ai-workplace.html 90 MERCADER UGUINA, Jesús. Algoritmos: personas y números en el Derecho Digital del trabajo. Diario La Ley, Sección Ciberderecho. 2021, n.º 48, p. 2. 91 PEYRONNET, Marie. El uso de los algoritmos y la inteligencia artificial en la selección de personal: ¿una ocasión para eliminar la discriminación? En: MOLINA NAVARRETE, Cristóbal y VELLECILLO COBALEDA, Estafanía (Dirs.). De la economía digital a la sociedad del e-work decente: condiciones sociolaborales para una industria 4.0 justa e inclusiva. Pamplona: Thomson Reuters Aranzadi, 2021, pp. 234 y 235. 92 Idem, pp. 238 a 241. 93 Idem, p. 235. 94 BOGEN, Miranda y RIEKE, Aaron. Help wanted. An Examination of Hiring Algorithms, Equity and Bias. Washington DC: Upturn, 2018, p. 8 y 9. 95 Idem. 18 último, mejora la calidad de los resultados de la contratación, ya que se pueden emplear técnicas predictivas para determinar qué candidatos es probable que sean más productivos, menos conflictivos y permanezcan más tiempo en su empleo96. La selección de trabajadores rara vez se materializa en una única decisión, sino en un proceso compuesto por muchas97. Por este motivo es útil diferenciar sus distintas fases a la hora de analizar cómo la inteligencia artificial se puede emplear en cada una de ellas. Así, podemos distinguir cuatro: atracción de candidatos, cribado, entrevista y selección98. En primer lugar, la atracción de candidatos o reclutamiento comprende todas aquellas acciones enfocadas a poner en conocimiento de los potenciales candidatos la existencia de una vacante99. En este contexto, la inteligencia artificial puede emplearse para mejorar las descripciones del puesto de trabajo, tal y como hace la plataforma Textio, que las compara con los patrones lingüísticos extraídos de una amplísima muestra de datos (que abarca tanto otras descripciones como sus resultados) para predecir el comportamiento de quienes verán el anuncio, así como el tamaño y características demográficas y curriculares de aquellos que se incorporarán al proceso de selección100. También puede aplicarse a la publicidad digital a través de diferentes plataformas que permiten determinar el tipo de público al que se quiere que llegue el anuncio101. Incluso hay aplicaciones capaces de predecir, empleando técnicas de aprendizaje automático avanzado y analizando numerosas variables predictivas, si es probable que un trabajador cambie de trabajo en el corto plazo102. En la fase de cribado empieza la revisión de las candidaturas con el fin de conformar un grupo reducido de aspirantes a los que someter a una evaluación en mayor profundidad103. Los usos de la inteligencia artificial en los procesos de selección que más atención reciben y más conocidos son se ubican en este momento: criba de currículums, automatización de la extracción de información de ellos, comparación de 96 Idem. 97 Idem, p. 15. 98 Idem. Esta no es más que una de las numerosas divisiones del proceso de selección de personal posibles. No todos los procesos de selección incluyen las cuatro fases. Además, no se debe interpretar estrictamente este esquema: hay herramientas que emplean la IA que no encajan totalmente en una única fase, sino que afectan a varias. 99 BOGEN, Miranda y RIEKE, Aaron. Op. cit., pp. 14 y 15. 100 HARRIS, Jensen. The dawn of the augmented writing era. En: Textio Blog. 2017. Disponible en: https://medium.com/textio/the-dawn-of-the-augmented-writing-era-a0bb4f4376ff 101 Un ejemplo paradigmático es el de Facebook, que ofrece servicios de publicidad dirigida que permiten segmentar la audiencia de los anuncios atendiendo a factores como la localización, la edad, el sexo o el área de conocimiento basándose en la información que sus usuarios le proporcionan y en su actividad online tanto dentro como fuera de dicha red. Vid. BOGEN, Miranda y RIEKE, Aaron. Leveling Plarform. Real Transparency for Paid Messages on Facebook. Washington DC: Upturn, 2018, p. 8. 102 Es el caso de Entelo. Vid. https://entelo.zendesk.com/hc/en-us/articles/210205623-Likely-to-Move- overview 103 BOGEN, Miranda y RIEKE, Aaron. Op. cit., p. 25. 19 su contenido con los requisitos del puesto vacante, evaluación de las candidaturas a través de las operaciones mencionadas…104 Junto a ellos también se ha ido extendiendo el uso de chatbots (como Mya, Xor o Humanly) o de aplicaciones para predecir la personalidad de los candidatos a través de cuestionarios o juegos (Koru y Pymetrics son, respectivamente, ejemplos de ello)105. También en las entrevistas es posible utilizar la inteligencia artificial para analizar el contenido de las respuestas de los candidatos y sus movimientos faciales106 y, a partir de ello, inferir ciertos rasgos de su personalidad y determinar su coincidencia con las características buscadas por el empleador107. Por último, el rastro de la inteligencia artificial puede llegar a las decisiones finales del proceso de selección. Es el caso de los análisis de los antecedentes personales de los candidatos (background checks), para los que se suele emplear información pública online sobre ellos, como la contenida en redes sociales, para elaborar perfiles y realizar predicciones a partir de ella108. Así, hay empresas que ofrecen a los empleadores el uso de aplicaciones para detectar a los candidatos que podrían cometer actos de acoso sexual (como Fama), o que los clasifican según el riesgo de que incurran en conductas irrespetuosas, bullying o consumo de drogas (es el caso de Predictim)109. Por otro lado, la inteligencia artificial también se puede utilizar como soporte para la negociación de las condiciones de trabajo y para la personalización de las ofertas de empleo110. 3.2 Nuevos desafíos para los derechos de los trabajadores El uso de la inteligencia artificial en el ámbito laboral plantea ciertos desafíos, singularmente para los derechos de los trabajadores. Si bien estos riesgos están presentes en los distintos momentos y aspectos de la relación laboral en que estas tecnologías se aplican (valoración del rendimiento de los trabajadores, poder disciplinario del empleador, despidos, prevención de riesgos laborales…), “en la fase de acceso al empleo su impacto vulnerador de derechos fundamentales es especialmente 104 CUATRECASAS. INSTITUTO DE ESTRATEGIA LEGAL EN RRHH. Proyecto Technos. Informe general. El impacto de las tecnologías disruptivas en la gestión de los Recursos Humanos y en el marco regulatorio de las Relaciones Laborales. Madrid: Wolters Kluwer, 2019, p. 197. 105 BOGEN, Miranda y RIEKE, Aaron. Op. cit., pp. 26 a 33. 106 HEILWEIL, Rebecca. Artificial intelligence will help determine if you get your next job. En: Vox. Recode. 2019. Disponible en: https://www.vox.com/recode/2019/12/12/20993665/artificialintelligence-ai-job-screen 107 WALL, Sherida y SCHELLMANN, Hilke. We tested AI interview tools. Here´s what we found. En: MIT Technology Review. 2021. Disponible en: https://www.technologyreview.com/2021/07/07/1027916/we-tested-ai-interview-tools/ 108 BOGEN, Miranda y RIEKE, Aaron. Op. cit., pp. 40 y 41. 109 Idem. 110 BAZ RODERGUEZ, Jesús. Privacidad y protección de datos de los trabajadores en el entorno digital. Madrid: Wolters Kluwer, 2019, p. 322. 20 intenso”111. Por tanto, aunque gran parte de lo que se dice en las líneas que siguen es aplicable al uso de inteligencia artificial en otros ámbitos de la relación laboral, en el proceso de selección cobra especial fuerza y ciertas notas características. Así, la aplicación de la inteligencia artificial a la fase de selección y contratación presenta riesgos específicos para algunos derechos de los trabajadores, fundamentalmente para el derecho a la no discriminación y el derecho a la protección de datos personales, así como para el derecho a la intimidad. Todos ellos son encuadrables, siguiendo a Palomeque, en la categoría de derechos fundamentales inespecíficos112. Por tanto, a pesar de su carácter general resultan plenamente aplicables al ámbito laboral, incluido el proceso de selección. Así lo reconoce el Tribunal Constitucional, que advirtió ya en la STC 88/1985 de que celebrar un contrato de trabajo “no implica en modo alguno la privación para una de las partes, el trabajador, de los derechos que la Constitución le reconoce como ciudadano”. Ahora bien, estos derechos no son absolutos y su alcance debe ser delimitado a partir de su relación con otro derecho constitucional, aunque no fundamental, como es el de la libertad de empresa, en el que el Tribunal Constitucional incluye la libertad de selección y contratación113. Así, si bien la no discriminación o la intimidad actúan como límites de este derecho, las restricciones que lo limiten deben cumplir a su vez otros límites, ya que el Tribunal Constitucional114 exige que sean razonables y no desvirtúen los intereses empresariales relativos a la eficiencia, la productividad y la rentabilidad115. En consecuencia, a la hora de valorar los posibles efectos lesivos en los derechos de los trabajadores derivados del uso de inteligencia artificial y sus consecuencias debe tenerse en consideración la libertad de empresa que asiste al empleador, especialmente porque la utilización de estas nuevas herramientas responde al legítimo interés empresarial en mejorar la productividad y la eficiencia. Además, hay que señalar que las previsiones legales sobre los estadios previos a la celebración del contrato de trabajo son escasas en nuestro ordenamiento116. A pesar de que la Ley de Contrato de Trabajo de 1944 sí dedicaba su art. 15 a los tratos preliminares y que desde los años sesenta la jurisprudencia empezó a contemplar la figura del precontrato de trabajo, el Estatuto de los Trabajadores aprobado en 1980 no 111 ALAMEDA CASTILLO, María Teresa. Reclutamiento tecnológico. Sobre algoritmos y acceso al empleo. Temas laborales: Revista andaluza de trabajo y bienestar social. 2021, n.º 159, p. 4. 112 PALOMEQUE LÓPEZ, Manuel Carlos. Los derechos laborales en la constitución española. Madrid: Centro de Estudios Políticos y Constitucionales, 1993, pp. 31 y 32. 113 Entre otras, SSTC 147/1986 y 192/2003. 114 SSTC 83/1984 y 37/1987. 115 MARTEN VALVERDE, Antonio y GARCEA MURCIA, Joaquín. Derecho del Trabajo. Madrid: Tecnos, 2021, p. 147. 116 RIVAS VALLEJO, Pilar. Discriminación algorítmica: detección, prevención y tutela. XXXI Jornades Catalanes de Dret Social. Treball, discriminació i COVID. Barcelona, 2021, p. 26. 21 recogió regulación alguna sobre esta cuestión117. Más de cuatro décadas después e incontables reformas mediante, esta situación, criticada por unos y defendida por otros118, se mantiene. En cualquier caso, es preciso tener en cuenta que a la falta de regulación sobre el uso de inteligencia artificial a nivel laboral se une la falta de regulación de la fase de contratación en general, lo que reduce la intensidad de la respuesta jurídica que nuestro ordenamiento permite dar a la aplicación de estas herramientas algorítmicas al proceso de selección. Ahora bien, ciertamente la libertad de contratación tiene límites jurídicos, siendo el esencial el principio de no discriminación119 que, como se detalla a continuación, tiene una importancia capital en relación con el uso de la inteligencia artificial. 3.2.1 Derecho a la no discriminación En 2014 Amazon encargó a una docena de personas el diseño de un sistema de inteligencia artificial capaz de revisar los currículums de los solicitantes de empleo y hallar automáticamente los mejores candidatos. Un año después se evidenció que el algoritmo discriminaba a las mujeres candidatas y la compañía desechó esta herramienta120. Este ya célebre ejemplo es solo uno más de una larga lista que muestra cómo la discriminación algorítmica sigue de cerca a la inteligencia artificial en su conquista de diferentes ámbitos de la vida económica y social. Como ya se dijo, el creciente uso de la inteligencia artificial en el ámbito de los recursos humanos se explica sobre todo por “la mejora de la productividad y la reducción de los costes”, pero a menudo se alude también a su supuesta objetividad y ausencia de prejuicios121. Si bien resulta innegable que la inteligencia artificial puede emplearse para reducir la discriminación122, la realidad es más compleja123 y es claro que la discriminación algorítmica es uno de los principales desafíos que plantean estas nuevas herramientas. 117 PURCALLA BONILLA, Miguel Ángel y FERNÁNDEZ GARCEA, Antonio. “Tratos preliminares y precontrato de trabajo: estado de la cuestión”. Civitas. Revista española de derecho del trabajo. 2009, n.º 142, pp. 381. 118 Idem. 119 Idem, p. 379. 120 DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. En: Reuters. 2018. Disnponible en: https://www.reuters.com/article/us-amazon-com-jobs-automation- insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G 121 PEYRONNET, Marie. Op. cit., p. 233. 122 KLEINBERG, Jon et al. Discrimination in the Age of Algorithms. Journal of Legal Analysis. 2018, vol. 10, pp. 154 a 163. 123 Un ejemplo es el de la IA empleada para determinar a quién y en qué condiciones conceder préstamos hipotecarios: hay casos que ilustran sus tendencias discriminatorias, pero también goza de potencial para reducir la discriminación. Vid. MILLER, Jennifer. Is an Algorithm Less Racist Than a Loan Officer? En: The New York Times. 2020. Disponible en: https://www.nytimes.com/2020/09/18/business/digital-mortgages.html 22 Durante el diseño de los algoritmos pueden introducirse sesgos fundamentalmente en tres momentos distintos en los que se han de tomar importantes decisiones humanas. En primer lugar, los sesgos pueden aparecer al determinar la llamada función objetivo, es decir, aquello que el algoritmo ha de predecir124. Así, si un sistema de inteligencia artificial aplicado a un proceso de selección busca predecir qué candidato será un “buen trabajador”, a la hora de diseñar dicho sistema habrá que definir mediante una fórmula matemática el significado de esa expresión, lo cual es una decisión subjetiva125. El segundo momento crucial es la elección de las variables predictivas que se pondrán a disposición del algoritmo para su posible inclusión en el modelo estadístico final126, que en apariencia pueden no ser factores discriminatorios pero en la práctica resultar serlo127. Por último, es de gran importancia la calidad de los datos de entrenamiento del algoritmo, ya que podrían hacer que este reprodujese desigualdades previas128. Así, suele advertirse que los “conjuntos de datos sesgados conducen a modelos discriminatorios”129. Esto fue lo que le ocurrió al ya mencionado algoritmo sexista de Amazon130. Es necesario, pues, confrontar el impacto discriminatorio de los algoritmos con las normas de derecho antidiscriminatorio131. Como ya se dijo, el principal límite de la libertad de contratación es el principio de no discriminación132, que en la legislación laboral se enuncia en los arts. 4.2 c) y 17 ET133. En dichos preceptos se distingue entre discriminación directa e indirecta: la primera consiste en tratar a una persona de manera menos favorable que otra en una situación semejante basándose en factores discriminatorios (sexo, raza, religión, discapacidad, edad…), mientras que la segunda se da cuando una “práctica o criterio aparentemente neutro pueda ocasionar una desventaja particular a personas de los colectivos definidos por los anteriores motivos”134. Ambos conceptos parece que pueden ser aplicables a situaciones de discriminación algorítmica135: así, puede introducirse un factor discriminatorio (por ejemplo, el sexo) como variable predictiva, pero también es posible que, aún eliminando todas las variables basadas en factores discriminatorios (sexo, raza, religión…) para que el 124 ORWAT, Carsten. Risks of Discrimination through the Use of Algorithms. Berlín: Federal Anti- Discrimination Agency, 2019, p. 53. 125 Idem, pp. 53 y 54. 126 KLEINBERG, Jon et al. Op. cit., p. 135. 127 Pueden encontrarse varios ejemplos sobre esta problemática en Ídem, pp. 140 y 141. 128 ORWAT, Carsten. Op. cit., p. 55. 129 Idem, p. 55. 130 PEYRONNET, Marie. Op. cit., p. 245. 131 RIVAS VALLEJO, Pilar. Op. cit., p. 51. 132 PURCALLA BONILLA, Miguel Ángel y FERNÁNDEZ GARCEA, Antonio. Op. cit., p. 379. 133 Junto a ellos, otros preceptos del ET, así como de la LISOS, la LJS y la LE contemplan previsiones concretas sobre este principio. 134 SÁENZ LARA, Carmen. El algoritmo como protagonista de la relación laboral. Un análisis desde la perspectiva de la prohibición de discriminación. Temas laborales: Revista andaluza de trabajo y bienestar social. 2020, n.º 155, p. 7. 135 RIVAS VALLEJO, Pilar. Op. cit., p. 52. Véase el ejemplo expuesto en KLEINBERG, Jon et al. Op. cit., pp. 141 y 142. 23 algortimo no las tenga directamente en cuenta, este emplee variables que indirectamente las contemplan136. Junto a los mencionados tipos de discriminación existen otros, fundamentalmente de origen jurisprudencial, como son los de discriminación por asociación, discriminación múltiple y discriminación por error, que parece que también podrían ser aplicados a supuestos de discriminación algorítmica sin mayores obstáculos137. En consecuencia, parece que no es necesario crear una nueva categoría de discriminación, dado que es posible encuadrar los diversos supuestos de discriminación algorítmica en alguna de las tipologías ya existentes138. Sin embargo, no es esta una opinión unánime. Así, hay quien considera que es necesaria una ampliación de la tutela antidiscriminatoria para adaptarla a la nueva realidad algorítmica, dadas las dificultades adicionales que plantea la aplicación de la normativa antidiscriminatoria a estos supuestos, especialmente cuando se trata de discriminación indirecta139. Ahora bien, este tipo de discriminación, que es el que abarca más casos derivados del uso de inteligencia artificial140, siempre se ha considerado difícil de detectar y probar, siendo para ello “imprescindible utilizar instrumentos estadísticos que permitan identificar un impacto adverso o una desventaja particular de la circunstancia interpuesta, en términos cuantitativos sobre el colectivo afectado”141. Paradójicamente, el hecho de que la inteligencia artificial requiera grandes cantidades de datos sobre la plantilla accesibles de forma sencilla podría facilitar “la probatoria del carácter discriminatorio de una decisión empresarial, incluso permitiría aflorar aquellos casos que, por falta de datos suficientes, quedaban relegados o sin resolver”142. 3.2.2 Derecho a la protección de datos personales Como fácilmente se deduce de lo dicho hasta el momento, los datos gozan de una importancia capital en el marco de la inteligencia artificial. Siguiendo la metáfora de Mercader, son “el aire de los nuevos ecosistemas productivos, su nutriente fundamental”143. Su centralidad en el desarrollo actual de la inteligencia artificial se explica en buena medida por la creciente relevancia de las técnicas de aprendizaje automático, que necesitan muchos datos de calidad para ser efectivas144. Así, estas técnicas permiten que los algoritmos analicen una cantidad ingente de información e 136 KLEINBERG, Jon et al. Op. cit., p. 137. 137 FERNÁNDEZ GARCEA, Antonio. Trabajo, algoritmos y discriminación. En: RODREGUEZPIÑERO ROYO, Miguel y TODOLE SIGNES, Adrián (Dirs.). Vigilancia y control en el Derecho del Trabajo Digital. Pamplona: Thomson Reuters Aranzadi, 2020, pp. 518 a 526. 138 Idem, p. 524. 139 SÁENZ LARA, Carmen. Op. cit., pp. 8 y 9. 140 Idem, p. 8. 141 CARDONA RUBERT, María Belén. Igualdad y no discriminación en las relaciones laborales. En: GOERLICH PESSET, Jose María (Coord.). Comentarios al Estatuto de los Trabajadores. Valencia: Tirant lo Blanch, 2016, p. 387. 142 FERNÁNDEZ GARCEA, Antonio. Op. cit., p. 526. 143 MERCADER UGUINA, Jesús. Op. cit., p. 1. 24 identifiquen por sí mismos patrones en ella, para después aplicar lo aprendido a la nueva información que se les suministre (por ejemplo, la contenida en el currículum de un demandante de empleo) y realizar predicciones145. La inteligencia artificial basada en el aprendizaje automático tiene numerosas aplicaciones a nivel laboral, especialmente en el proceso de selección, que en esencia consiste en predecir146. La predicción persigue “superar un problema de falta de información”: cuando una empresa valora a los candidatos a un puesto vacante lo deseable sería conocer el rendimiento futuro de cada uno de ellos, pero ante la imposibilidad de saberlo el proceso de contratación consistirá en tratar de predecirlo a partir de la información sobre los candidatos y sobre el rendimiento pasado de trabajadores semejantes a ellos147. Los diversos usos de la inteligencia artificial en el proceso de selección responden a esta finalidad. Ante esta creciente inescindibilidad entre la inteligencia artificial y los datos que la alimentan, cobra especial importancia la regulación sobre protección de datos y su aplicación a nivel laboral148. Ahora bien, antes de nada es preciso señalar que el punto de partida a este respecto es un precario marco normativo, que no presta especial antención al ámbito laboral en general y que se olvida de regular “las particularidades de su aplicación a los procesos de selección”149, no digamos ya en los casos en que se emplea inteligencia artificial. Además, el protagonismo de la normativa de protección de datos a la hora de abordar las implicaciones jurídico-laborales de la inteligencia artificial es un elemento que esta comparte con el uso de las demás nuevas tecnologías en el ámbito laboral, lo cual puede dar lugar a ciertas incoherencias, Así, la doctrina ha señalado que el “Derecho del Trabajo Digital” es “el resultado del cruce de dos sectores del ordenamiento jurídico muy diversos entre sí, el del trabajo y el de la protección de datos”, que están inspirados por principios que, en ocasiones, pueden ser difícilmente conciliables150. Por el momento, parece que la confluencia entre ambas ramas no ha 144 BOUCHER, Philip. Artificial intelligence: How does it work, why does it matter and what can we do about it? Brussels: European Parliament, 2020, p. 8. 145 Ídem, pp. 3 y 4. 146 KLEINBERG, Jon et al. Op. cit., p. 136. 147 Idem, p. 132. 148 ÁLVAREZ CUESTA, Henar. El impacto de la inteligencia artificial en el trabajo: desafíos y propuestas. Pamplona: Thomson Reuters Aranzadi, 2020, p. 55. 149 CRUZ VILLALÓN, Jesús. Protección de datos personales del trabajador en el proceso de contratación: facultades y límites de la actuación del empleador. Albacete: Bomarzo, 2019, p. 14. 150 RODREGUEZ-PIÑERO ROYO, Miguel. RODREGUEZ-PIÑERO ROYO, Miguel. Registro de jornada mediante controles biométricos: un caso de incoherencia en el Derecho del Trabajo Digital. En: RODREGUEZ-PIÑERO ROYO, Miguel y TODOLE SIGNES, Adrián (Dirs.). Vigilancia y control en el Derecho del Trabajo Digital. Pamplona: Thomson Reuters Aranzadi, 2020, pp. 274 y 275. 25 cambios relevantes en cuanto a la organización del trabajo y a los contratos de trabajo en la empresa”. La empresa deberá informar y consultar a los representantes de la plantilla con anterioridad a la introducción del sistema de inteligencia artificial191. Además, hay que recalcar que por mucho que se utilice un sistema de inteligencia artificial para ejercer los poderes de dirección y control, su titularidad y, por tanto, las consecuencias y responsabilidades derivadas de su ejercicio corresponden al empresario192. Este sigue ocupando una posición de garante del cumplimiento de los límites de dichos poderes, de los deberes derivados de la buena fe y de los derechos de los trabajadores193. Lógica consecuencia de todo lo anterior es la importancia de identificar los límites de los poderes de dirección y control, dado que estos serán aplicables al uso de la inteligencia artificial con estas finalidades, a pesar de que no haya previsiones normativas específicas sobre ella. Cabe señalar que el art. 20.3 ET no concreta cuáles son esos límites, más allá del respeto a la dignidad del trabajador. En todo caso, es evidente que entre ellos están los derechos fundamentales de los trabajadores, tal y como lleva largo tiempo sosteniendo la jurisprudencia constitucional194. Ahora bien, también advierte el Tribunal Constitucional que el ejercicio de derechos fundamentales por el trabajador “admite limitaciones o sacrificios en la medida en que se desenvuelve en el seno de una organización que refleja otros derechos reconocidos constitucionalmente en los arts. 38 y 33 CE y que impone, según los supuestos, la necesaria adaptabilidad para el ejercicio de todos ellos”195. Como se suele decir, “la afirmación de la vigencia de los derechos fundamentales del trabajador constituye más una fuente de interrogantes que de afirmaciones concluyentes”196, ya que obliga a un arduo ejercicio de modulación entre estos y las prerrogativas derivadas de la libertad empresarial. Así, esta “modulación que el complejo de derechos y obligaciones objeto del contrato de trabajo y la consiguiente inserción del trabajador en la organización productiva empresarial causa en el ejercicio de sus derechos fundamentales hace que manifestaciones que en otro contexto serían legítimas no lo son cuando su ejercicio se valora en el marco de la relación laboral”197. 191 Idem. 192 VALVERDE ASENCIO, Antonio José. Implantación de sistemas de inteligencia artifical y trabajo. Albacete: Bomarzo, 2020, p. 22. 193 Idem, p. 27. 194 Desde la ya citada STC 88/1985. 195 STC 90/1997. 196 DELGADO JIMÉNEZ, Antonio-Felipe. La privacidad del trabajador y el control tecnológico de la actividad laboral. Madrid: Universidad Complutense de Madrid, 2020, p.42. 197 CASAS BAAMONDE, María Emilia. La plena efectividad de los derechos fundamentales: juicio de ponderación (¿o de proporcionalidad?) y principio de buena fe. Relaciones Laborales: Revista crítica de teoría y práctica. Editorial La Ley, 2004, n.º 1, p. 3. 32 Por tanto, esta situación impone la necesidad de alcanzar un equilibrio entre las partes del contrato de trabajo, entre los derechos de los trabajadores y los poderes del empresario. Para ello, la jurisprudencia constitucional no parte de la superioridad jerárquica de unos derechos (fundamentales) sobre otros (constitucionales, como es el caso de la libertad empresarial), sino que opta, como explica Casas Baamonde, por delimitar sus respectivos ámbitos de actuación y, tras ello, determinar las limitaciones recíprocas derivadas, por un lado, “del contrato de trabajo como relación contractual que supedita o subordina determinadas actividades del trabajador al poder de dirección empresarial y establece límites al ejercicio de los derechos fundamentales del trabajador y también al poder del empresario”; y, por otro, “de la posición prevalente en el ordenamiento jurídico de los derechos fundamentales […], cuyo ejercicio sólo admite limitaciones justificadas y proporcionales”198. La búsqueda de este equilibrio habrá de realizarse a través del principio de proporcionalidad199, técnica de ponderación de derechos en conflicto que conlleva un triple test de necesidad, idoneidad y proporcionalidad en sentido estricto200. Dado su carácter más riguroso que el simple juicio de ponderación, en principio suele emplearse frente al poder público y no en conflictos entre privados, pero es aconsejable su extensión a aquellos generados por el ejercicio del poder de control empresarial, cada vez más incisivo gracias a los nuevos instrumentos disponibles201. En fin, la inteligencia artificial, al igual que los distintos avances tecnológicos de las últimas décadas, ofrece medios de control más sofisticados, pero el problema que plantean es, en esencia, el mismo: la determinación del alcance de los derechos de los trabajadores frente a las potestades del empresario202. Al igual que en fase de selección y contratación, tal y como se señaló en el apartado precedente de este trabajo, el derecho a la intimidad, el derecho a la protección de datos y el derecho a la no discriminación son los más vulnerables al uso de la inteligencia artificial como medio de control, a los que podemos sumar también el derecho a la seguridad o salud laboral. 4.2.1 Derecho a la no discriminación En cuanto al derecho a la no discriminación, basta con hacer una remisión a lo ya dicho a este respecto en el apartado tercero de este trabajo, plenamente aplicable a los 198 Idem, p. 1. 199 Así lo viene haciendo el Tribunal Constitucional, vid. SSTC 99/1994, 98/2000 y 186/2000, entre otras. También la Agencia Española de Protección de Datos ha aplicado estre principio en numerosas resoluciones, como la 681/2004 sobre el uso de videovigilancia para controlar a trabajadores. 200 CASAS BAAMONDE, María Emilia. Op. cit., p. 2. 201 Idem. 202 LÓPEZ DE LA FUENTE, Graciela. La revolución tecnológica y su impacto en las relaciones de trabajo y en los derechos de los trabajadores. Valencia: Tirant lo Blanch, 2020, p. 75. 33 supuestos en que la discriminación algorítmica derive del uso de la inteligencia artificial para vigilar a los trabajadores. Estos casos ya son una realidad que incluso está empezando a llegar lentamente a los tribunales, tal y como atestigua la novedosa sentencia del Tribunal Ordinario de Bolonia de 31 de diciembre de 2020203. En ella se condena a la plataforma de reparto Deliveroo porque el algoritmo que empleaba para distribuir los repartos entre los riders penalizaba a aquellos que se ausentaban de la plataforma durante la franja horaria elegida previamente para estar activos aun cuando dicha ausencia se debiera a participar en una huelga, a una enfermedad, al cuidado de un menor… Según la ponente, darle un trato idéntico a estas ausencias y a las provocadas por motivos fútiles constituye un caso de discriminación indirecta204. 4.2.2 Derecho a la protección de datos personales Como ya se dijo, la normativa de protección de datos será aplicable a la inteligencia artificial cuando esta suponga un tratamiento de datos personales. En estos casos, su utilización en el marco de los poderes de dirección y control habrá de adecuarse a alguna de las condiciones de licitud del art. 6 RGPD. Si bien no es posible, como tampoco lo fue en el apartado tercero de este trabajo, una explicación detallada del encaje de cada una en el ámbito laboral, baste señalar que ninguna está exenta de dificultades. Por un lado, el consentimiento (art. 6.1 a) RGPD) rara vez podrá suficiente, dada la naturaleza de la relación laboral205. Por otro, el interés legítimo del empresario como responsable del tratamiento (art. 6.1 f) RGPD) exige un previo análisis meticuloso sobre su existencia mediante la aplicación del principio de proporcionalidad206. Por último, la necesidad del tratamiento para la ejecución del contrato (art. 6.1 b) RGPD) hace que el consentimiento pase a un segundo plano por entenderse implícito en la relación laboral, pero esta dispensa solo debe abarcar aquellos casos en que el tratamiento sea necesario para el mantenimiento y cumplimiento del contrato, es decir, de las obligaciones derivadas de la relación laboral207, lo que no debe interpretarse ampliamente al punto de incluir cualquier medida de control del empresario. Además, deben tenerse presentes los límites derivados del art. 9 RGPD para los datos especialmente protegidos (previsión relevante para, por ejemplo, las tecnologías biométricas) y del art. 22 RGPD para decisiones automatizadas. 203 Puede leerse la sentencia, en italiano, en el siguiente enlace: https://www.algoritmolegal.com/wpcontent/uploads/2021/01/Sentencia-Bologna-Italia-Deliveroo-dic-2020-Original-italiano.pdf 204 Un resumen de la sentencia en castellano puede encontrarse en BAYLOS GRAU, Antonio. El algoritmo no es neutral. No permite ejercer derechos fundamentales a los trabajadores de plataformas. En: Blog Según Antonio Baylos. 2021. Disponible en: https://baylos.blogspot.com/2021/01/el-algoritmo-no-es-neutral-no-permite.html 205 GT 29. Dictamen 2/2017 sobre el tratameinto de datos en el trabajo. Bruselas: 8 de junio de 2017, p. 25. 206 MERCADER UGUINA, Jesús. Protección de datos y garantía de los derechos digitales en las relaciones laborales. Madrid: Francis Lefebvre, 2019, pp. 45 y 46. 207 Idem, p. 43. 34 En fin, de nuevo nos encontramos huérfanos de normas específicas sobre inteligencia artificial, aunque esta materia es propicia para acudir a mecanismos de autorregulación como Códigos de Conducta que suplan esta carencia208. Además, hay varias disposiciones en la LOPD para salvaguardar el derecho a la intimidad de los trabajadores frente al uso de nuevas tecnologías como medios de control209. Por un lado, sobre el uso de dispositivos digitales puestos a su disposición por la empresa (art. 87), que habrá de aplicarse ante sistemas de inteligencia artificial como Veriato Vision. Por otro, en relación con el uso de sistemas de videovigilancia y de geolocalización (arts. 89 y 90), instrumentos cruciales a la hora de recabar datos para ser procesados por inteligencia artificial. Cuando se empleen dispositivos wearables habrá que estar al tipo de tecnologías que incorporen y de datos que obtengan para determinar el régimen aplicable210. 4.2.3 Derecho a la seguridad y salud laboral La introducción de nuevas tecnologías en el trabajo contribuye al surgimiento de “nuevas formas de nocividad y de nuevos factores de afectación psicológica negativa”, que pueden conducir a un deterioro de la salud mental del trabajador211. Siguiendo a Todolí Signes212, la inteligencia artificial presenta una serie de factores de riesgo laboral: la monitorización permanente, que hace que el trabajador sienta que está siendo observado en todo momento; la intensificación del trabajo; la falta de autonomía; la complejidad y falta de transparencia de los algoritmos, que dificultan que el empleado pueda conocer las razones de las decisiones que toman; la posible existencia de sesgos discriminatorios, así como de un funcionamiento defectuoso o de sabotajes. Todos estos factores pueden provocar un aumento de la ansiedad213, el estrés y la presión, así como empujar a los trabajadores a adoptar decisiones arriesgadas para su propia salud física214. El empresario, en cumplimiento de su deber de “garantizar la seguridad y la salud de los trabajadores a su servicio en todos los aspectos relacionados con el trabajo” (art. 14.2 LPRL), debe poner en marcha estrategias preventivas para favorecer la adaptación 208 Idem, p. 22. 209 Normas referidas a cuestiones sobre las que hay una rica jurisprudencia, tanto del TS y TC, como del TEDH (vid., por ejemplo, casos Copland, Barbulescu o López Ribalda) sobre la relación entre estas medidas y el derecho a la vida privada (art. 8 CEDH). 210 PRECIADO DOMÈNECH, Carlos. Monitorización: GPS, Weareables y especial referencia a los controles biométricos para el registro horario. En: RODREGUEZ-PIÑERO ROYO, Miguel y TODOLE SIGNES, Adrián (Dirs.). Vigilancia y control en el Derecho del Trabajo Digital. Pamplona: Thomson Reuters Aranzadi, 2020, p. 231. 211 RODREGUEZ ESCANCIANO, Susana. Op. cit., p. 21. 212 TODOLE SIGNES, Adrián. Op. cit., pp. 9 a 19. 213 Por ejemplo, en el reciente corto documental Algoritmia, de RTVE, un mozo de almacén de Amazon explica que en varias ocasiones han tenido que acudir ambulancias al centro de trabajo para atender a compañeros suyos aquejados de ataques de ansiedad. 214 TODOLE SIGNES, Adrián. Op. cit., pp. 19 y 20. 35 de los empleados a estos nuevos medios (participación en su implantación, información y comunicación, formación…)215. Además, puede ser conveniente tener en cuenta el uso de inteligencia artificial en las auditorías en materia de riesgos laborales216. En cualquier caso, es preciso advertir que la inteligencia artificial también puede ser una aliada de la prevención de riesgos laborales, contribuyendo a mejorar los métodos preventivos o la evaluación de riesgos217. 215 RODREGUEZ ESCANCIANO, Susana. Op. cit., pp. 25 y 26. 216 MINISTERIO DE TRABAJO Y ECONOMEA SOCIAL. Op. cit., p. 21. 217 TODOLE SIGNES, Adrián. Op. cit., pp. 32 a 34. 36 5. CONCLUSIONES PRIMERA: En los últimos años se ha producido un constante aumento del uso de la inteligencia artificial en diferentes ámbitos, entre ellos en la gestión y dirección del trabajo. Esta tendencia, que parece que se afianzará en el futuro próximo, plantea importantes y peculiares desafíos para los derechos de los trabajadores. Estos derivan de una serie de factores, entre los que se encuentran la falta de control y de transparencia en la toma de decisiones, la inintelegibilidad de los procesos que conducen a ellas, la obtención y tratamiento masivo de datos personales o los sesgos algorítmicos con consecuencias discriminatorias o injustas. Además, la regulación de la inteligencia artificial goza de una dificultad añadida debido a su complejidad técnica, a su evolución ininterrumpida y a la necesidad de evitar que esta sea un obstáculo a la innovación y al desarrollo de esta tecnología. SEGUNDA: El punto de partida para abordar los riesgos que el uso de la inteligencia artificial puede suponer para los derechos de los trabajadores es un precario marco normativo. La legislación laboral tan solo cuenta con una norma que se refiere específicamente a este fenómeno: el art. 64.4 d) ET. La expansión de la inteligencia artificial exige que el ordenamiento se adapte a los retos que esta plantea, tanto mediante la aplicación de normas ya en vigor como a través de la futura aprobación de disposiciones referidas concretamente a la inteligencia artificial. Entre las primeras goza de especial importancia la normativa de protección de datos. TERCERA: El nuevo apartado d) del art. 64.4 ET es una norma pionera entre los países de nuestro entorno, la primera y, hasta el momento, la única del ordenamiento laboral español en contemplar el fenómeno de la inteligencia artificial. Recoge un derecho colectivo de información sobre su utilización para la toma de cualquier decisión relativa a las condiciones de trabajo o al acceso y mantenimiento del empleo. Constituye una novedad relevante y goza de una importante potencialidad para mejorar la transparencia sobre el uso de tecnologías algorítmicas y el control de sus efectos. A ello contribuye el detallado contenido de la información y el amplio campo de aplicación de la norma, que opera en todas las empresas con representación de la plantilla y ante un gran número de decisiones. CUARTA: Hay otras previsiones normativas que, a pesar de no referirse en concreto a la inteligencia artificial, garantizan cierta transparencia y control en el uso de estas herramientas en el ámbito laboral. Es el caso de los arts. 13.2 f), 14.2 g) y 15.1 h) RGPD, que prevén un derecho individual de información, y del art. 35 RGPD, que exige la realización de una evaluación de impacto. La negociación colectiva, que está llamada a jugar un papel relevante en la regulación de la inteligencia artificial, puede introducir otras obligaciones, tales como la de negociar los algoritmos o la de realizar auditorías algorítmicas. 37 QUINTA: La inteligencia artificial puede ser objeto de diversos usos por el empleador, especialmente para auxiliarlo en el proceso de selección de personal y en el ejercicio de sus poderes de dirección y control. El derecho a la intimidad, el derecho a la protección de datos personales y el derecho a la no discriminación son los derechos de los trabajadores más vulnerables ante estas prácticas. Ahora bien, también hay que tener en cuenta la libertad empresarial que asiste al empresario en la utilización de estos recursos por su capacidad para mejorar la productividad y la eficiencia. SEXTA: La existencia de sesgos algorítmicos en el diseño de sistemas de inteligencia artificial que producen consecuencias discriminatorias es un problema que goza de una creciente atención. No parece necesario introducir una nueva clase de discriminación para hacer frente a estos supuestos, que encajan en las categorías existentes, especialmente en la de discriminación indirecta. Las novedades que introduce la discriminación algorítmica se refieren, fundamentalmente, a la dificultad que entraña comprender su origen y la manera en que se producen, así como su prueba. SÉPTIMA: La introducción de la inteligencia artificial en el proceso de selección, que puede producirse en múltiples tareas, presenta un especial riesgo de vulneración de derechos. La intrusividad de estas herramientas y la singular desprotección de los candidatos a un empleo contribuyen a ello. Ahora bien, a pesar de que en apariencia la normativa de protección de datos deja un margen considerable al empleador en la utilización de estas tecnologías en este contexto, algunos de sus usos carecen de bases jurídicas sólidas. OCTAVA: Las nuevas tecnologías permiten obtener una ingente cantidad de datos sobre el desempeño de los trabajadores en la ejecución de la prestación laboral y la inteligencia artificial es capaz de procesar esa información para extraer conclusiones. Por tanto, su utilización permite al empleador someter a los trabajadores a una vigilancia permanente que puede tener consecuencias perjudiciales para su intimidad y su salud. NOVENA: El uso de inteligencia artificial como instrumento al servicio de los poderes de dirección y control del empresario plantea, en el fondo, el mismo problema que otros avances tecnológicos recientes: la compleja relación entre los derechos de los trabajadores y las potestades del empresario amparadas por la libertad de empresa, entre las que es necesario encontrar un equilibrio. A la hora de valorar la licitud del empleo de herramientas algorítmicas hay que atender al caso concreto y analizarlo a través del principio de proporcionalidad. También hay que tener presentes las limitaciones introducidas por la normativa sobre protección de datos y el derecho a la no discriminación. 38 6. BIBLIOGRAFÍA -AEPD. Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. Madrid: 2020. -AEPD. Requisitos para Auditorías de Tratamientos que incluyan IA. Madrid. 2021. -ALAMEDA CASTILLO, María Teresa. Reclutamiento tecnológico. Sobre algoritmos y acceso al empleo. Temas laborales: Revista andaluza de trabajo y bienestar social. 2021, n.º 159, pp. 11 a 52. -ALEMÁN PÁEZ, Francisco. Poder de control empresarial, sistemas tecnológicos y derechos fundamentales de los trabajadores. Derecho de las Relaciones Laborales. 2016, n.º 6, pp. 602 a 618. -ÁLVAREZ CUESTA, Henar. El impacto de la inteligencia artificial en el trabajo: desafíos y propuestas. Pamplona: Thomson Reuters Aranzadi, 2020. -BALL, Kirstie. Electronic Monitoring and Surveillance in the Workplace. Literature review and policy recommendations. Luxemburgo: Oficina de Publicaciones de la Unión Europea, 2021. -BAYLOS GRAU, Antonio. A vueltas con el algoritmo: derechos de información y negociación colectiva. En: Blog de Antonio Baylos. 2021. Disponible en: https://baylos.blogspot.com/2021/05/a-vueltas-con-el-algoritmo-derechos-de.html -BAYLOS GRAU, Antonio. El algoritmo no es neutral. No permite ejercer derechos fundamentales a los trabajadores de plataformas. En: Blog Según Antonio Baylos. 2021. Disponible en: https://baylos.blogspot.com/2021/01/el-algoritmo-no-es-neutral- no-permite.html -BAZ RODERGUEZ, Jesús. Privacidad y protección de datos de los trabajadores en el entorno digital. Madrid: Wolters Kluwer, 2019. -BOGEN, Miranda y RIEKE, Aaron. Help wanted. An Examination of Hiring Algorithms, Equity and Bias. Washington DC: Upturn, 2018. -BOUCHER, Philip. Artificial intelligence: How does it work, why does it matter and what can we do about it? Brussels: European Parliament, 2020. -CALO, Ryan. Artificial Intelligence Policy: A Primer and Roadmap. University of Bologna Law Review. 2018, vol. 3, n.º 2. -CARDONA RUBERT, María Belén. Igualdad y no discriminación en las relaciones laborales. En: GOERLICH PESSET, Jose María (Coord.). Comentarios al Estatuto de los Trabajadores. Valencia: Tirant lo Blanch, 2016, pp. 385 a 394. 39 -CASAS BAAMONDE, María Emilia. La plena efectividad de los derechos fundamentales: juicio de ponderación (¿o de proporcionalidad?) y principio de buena fe. Relaciones Laborales: Revista crítica de teoría y práctica. Editorial La Ley, 2004, n.º 1, pp. 141 a 156. -COHEN, Julie. Between Truth and Power. The Legal Construction of Information Capitalism. Oxford: Oxford University Press, 2020. -COMISIÓN EUROPEA. GRUPO DE EXPERTOS DE ALTO NIVEL SOBRE INTELIGENCIA ARTIFICIAL. Una definición de Inteligencia Artificial: principales capacidades y disciplinas científicas. Bruselas: Comisión Europea, 2019. -COMISIÓN EUROPEA. JOINT RESEARCH CENTER. AI Watch. Defining Artificial Intelligence. Towards an operational definition and taxonomy of artificial intelligence. Luxemburgo: Publications Office of the European Union, 2020. -COTINO, Lorenzo. Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho. Revista catalana de dret públic. 2019, n.º 58, pp. 29 a 48. -COTINO, Lorenzo. Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta del derecho. Revista General de Derecho Administrativo. 2019, n.º 50. -CRUZ VILLALÓN, Jesús. La participación de los representantes de los trabajadores en el uso de los algoritmos y sistemas de inteligencia artificial. En: Blog de Jesús Cruz Villalón. 2021. Disponible en: http://jesuscruzvillalon.blogspot.com/2021/05/ -CRUZ VILLALÓN, Jesús. Protección de datos personales del trabajador en el proceso de contratación: facultades y límites de la actuación del empleador. Albacete: Bomarzo, 2019. -CUATRECASAS. INSTITUTO DE ESTRATEGIA LEGAL EN RRHH. Proyecto Technos. Informe general. El impacto de las tecnologías disruptivas en la gestión de los Recursos umanos y en el marco regulatorio de las Relaciones Laborales. Madrid: Wolters Kluwer, 2019. -DELGADO JIMÉNEZ, Antonio-Felipe. La privacidad del trabajador y el control tecnológico de la actividad laboral. Madrid: Universidad Complutense de Madrid, 2020. -EASTERBROOK, Frank. Cyberspace and the Law of the Horse. University of Chicago Legal Forum. 1996, n.º 1, art. 7. Disponible en: https://chicagounbound.uchicago.edu/cgi/viewcontent.cgi?article=1204&context=uclf -FERNÁNDEZ GARCEA, Antonio. Trabajo, algoritmos y discriminación. En: RODREGUEZ-PIÑERO ROYO, Miguel y TODOLE SIGNES, Adrián (Dirs.). Vigilancia 40 y control en el Derecho del Trabajo Digital. Pamplona: Thomson Reuters Aranzadi, 2020, pp. 505 a 531. -GARCEA RUBIO, María Paz. Responsabilidad social empresarial y autorregulación. Los códigos de conducta y las fuentes del Derecho. Boletín del Ministerio de Justicia. 2012, n.º 2141, pp. 2 a 14. -GINÈS FABRELLAS, Anna. El derecho a conocer el algoritmo: una oportunidad perdida de la “Ley Rider”. Iuslabor. 2021, n.º 2, pp. 1 a 5. -GÓMEZ GORDILLO, Rafael. Algoritmos y derecho de información de la representación de las personas trabajadoras. Temas laborales: revista andaluza de trabajo y bienestar social. 2021, n.º 158, pp. 161 a 182. -GORELLI HERNÁNDEZ, Juan. Algortimos y transparencia: ¿pueden mentir los números? Los derecho de información. Trabajo y derecho: nueva revista de actualidad y relaciones laborales. 2022, n.º 86. -GT 29. Dictamen 05/2014 sobre técnicas de anonimización. Bruselas: 10 de abril de 2014. -GT 29. Dictamen 2/2017 sobre el tratameinto de datos en el trabajo. Bruselas: 8 de junio de 2017. -GT 29. Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679. Bruselas: 3 de octubre de 2017. -KLEINBERG, Jon et al. Discrimination in the Age of Algorithms. Journal of Legal Analysis. 2018, vol. 10, pp. 113 a 174. -LÓPEZ DE LA FUENTE, Graciela. La revolución tecnológica y su impacto en las relaciones de trabajo y en los derechos de los trabajadores. Valencia: Tirant lo Blanch, 2020. -MARTEN VALVERDE, Antonio y GARCEA MURCIA, Joaquín. Derecho del Trabajo. Madrid: Tecnos, 2021. -MERCADER UGUINA, Jesús. Algoritmos: personas y números en el Derecho Digital del trabajo. Diario La Ley, Sección Ciberderecho, 2021, n.º 48. -MERCADER UGUINA, Jesús. Nuevos escenarios para el Estatuto de los Trabajadores del siglo XXI: digitalización y cambio tecnológico. Trabajo y derecho: nueva revista de actualidad y relaciones laborales. 2020, n.º 63. -MERCADER UGUINA, Jesús. Protección de datos y garantía de los derechos digitales en las relaciones laborales. Madrid: Francis Lefebvre, 2019. 41