Gestão algorítmica

551 GESTÃO ALGORÍTMICA Teresa Coelho Moreira* https://doi.org/10.21814/uminho.ed.105.27 1. Introdução A revolução digital, a par da massificação da robotização, da automação, do uso de algoritmos e da inteligência artificial têm vindo a modificar de forma significativa a forma como se desenvolve o trabalho, não raras vezes promovendo a substituição do homem pela máquina. Paralelamente, o desenvolvimento do trabalho realizado no âmbito de plataformas digitais, bem como o súbito incremento do trabalho remoto – em larga medida motivado pela pandemia da doença COVID19 – trazem novas oportunidades, mas também novos desafios e preocupações. Na verdade, as profundas mudanças registadas, nos últimos anos, na forma de trabalhar e nos modos de prestar serviços, pondo em contacto a oferta e a procura, interpelam, crescentemente, o Direito. E também, claro, o Direito do Trabalho. * Doutora em Direito. Professora Associada com Agregação da Escola de Direito da Universidade do Minho. Membro integrado do JusGov – Centro de Investigação em Justiça e Governação e Coordenadora do Grupo de Investigação em Direitos Humanos do mesmo ([email protected]). 552 GESTÃO ALGORÍTMICA 2. Inteligência artificial e gestão algorítmica 1 2.1. Atualmente, a Inteligência Artificial veio para ficar e incide sobre inúmeros aspetos da vida das pessoas em geral e dos trabalhadores em especial desde o momento de formação do contrato de trabalho, passando pela execução do mesmo. Através de, inter alia, um novo tipo de formação ao longo da vida, de um novo controlo, o controlo eletrónico/digital, um novo tempo de trabalho, ou de um novo tipo de Direito Coletivo – e terminando na sua cessação. Contudo, há que referir que não existe um conceito unívoco de Inteligência Artificial, principalmente porque tem de relacionar-se com outro conceito que também é difícil de definir e que é o de inteligência humana e que a mesma coloca várias questões que ultrapassam, largamente, o âmbito da nossa intervenção mas, apenas para referir algumas, desde logo a questão da proteção e propriedade dos dados que constituem a base de trabalho para a Inteligência Artificial; questões relativas à responsabilidade por exemplo no caso dos carros autónomos; ou o direito à privacidade porque todos vamos deixando uma série de pistas digitais que permitem a comparação à entrada de determinados locais de uma cópia digitalizada e a imagem da pessoa em causa e, em especial no caso das relações de trabalho, o trabalhador encontra-se, por esta via, amplamente radiografado e informações colocadas online podem perdurar no ciberespaço por muito tempo, correndo o risco de ficarem completamente desatualizadas e com a inerente descontextualização dos dados. O conceito de IA ou, pelo menos, o termo surgiu numa série de conferências que tiveram lugar no Dartmouth College em 1956. Nesta altura vários cientistas reuniram-se para tentarem ensinar as máquinas a resolverem problemas que à data apenas os humanos conseguiam resolver. Por outro lado, há IA que são consideradas “fracas” e outras “fortes”. A IA forte significa que estes sistemas têm a mesma capacidade intelectual que os humanos, ou mesmo excedem-na. A IA “fraca” está focada na solução de problemas específicos utilizando a matemática e as ciências de computação para avaliar e conseguir que os sistemas tenham capacidade de se otimizarem. Para 1 Para maiores desenvolvimentos vide Teresa Coelho MOREIRA, Direito do Trabalho na Era Digital, Coimbra, Almedina, 2021. 553 LIBER AMICORUM BENEDITA MAC CRORIE conseguir este desiderato, certos aspetos da inteligência humana são mapeados e formalmente descritos e os sistemas são concebidos e estimulados para suportar o pensamento humano. E este último tipo de IA foi a que intrigou muitos ao longo dos tempos. Desde logo Alan Turing que em 1950 colocou a questão “Será que as máquinas conseguem pensar?”. 2.2. Conforme preconiza Cathy O’Neil2, nós vivemos na era do algoritmo. Cada vez mais, as decisões que afetam as vidas das pessoas estão a ser tomadas não por seres humanos, mas por modelos matemáticos. Teoricamente, isso deveria originar uma maior justiça e transparência, porque todos seriam julgados de acordo com as mesmas regras e a discriminação seria eliminada. Mas, na realidade, isso não acontece. Os modelos usados hoje são opacos, não são regulamentados e são considerados, por muitos, como incontestáveis, mesmo quando estão errados. E, ainda mais problemático, é que eles reforçam a discriminação. Na teoria, parece que o conceito de remover humanos do processo de tomada de decisão também eliminará a discriminação. O paradoxo, no entanto, é que, em alguns casos, a tomada de decisões automatizada serviu para replicar e ampliar até a discriminação3. O uso de algoritmos traz a promessa de objetividade. As pessoas assumem que os resultados do algoritmo são neutros. Essa neutralidade é, no entanto, uma ilusão. Os algoritmos não são tão imparciais quanto pensamos e o risco de discriminação aumenta. A criação de perfis do comportamento humano e os dados deles resultantes permitem que a administração faça julgamentos sobre quem são as pessoas, bem como preveja o seu comportamento futuro. Na verdade, espera-se que os dados gerados pelo computador sejam confiáveis e neutros e ajudem na previsão. 2 Cathy o’neil, Weapons of Math Destruction – How Big Data Increases Inequality and Threatens Democracy, Crown/Archetype, 2017. A autora defende que “os algoritmos prometem eficácia e imparcialidade mas, por vezes, distorcem a educação superior, aumentam a dívida, estimulam o encarceramento em massa, discriminam os pobres em várias situações e podem colocar em causa a própria democracia”. 3 Ifeoma ajunwa, “The paradox of automation as anti-bias intervention”, Cardozo L. Rev., vol. 41, n.º 5, assim como Carl frey e Michael A. osborne, The future of employment: How susceptible are jobs to computerisation?, Oxford, Oxford Martin School, 2013, https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf. 554 GESTÃO ALGORÍTMICA Os algoritmos não são de forma alguma infalíveis. As decisões que tomam podem ser tão tendenciosas quanto as de qualquer ser humano, não podendo ser consideradas “superiores” ou mais objetivas do que as de qualquer pessoa4. Dotar essas ferramentas computacionais com capacidades superiores às das pessoas que as treinam e as programam é um erro manifesto que a ciência repudia. Se um humano não sabe como resolver um problema que exige critérios justos, uma Inteligência Artificial não será capaz de resolvê-lo por ele. E uma aplicação maciça destas tecnologias algorítmicas multiplicaria, sobreporia e amplificaria tanto os seus efeitos quanto o número de trabalhadores afetados de forma exponencial, alcançando o que o Conselho da Europa descreve como uma “interferência adicional no exercício dos direitos humanos de múltiplas maneiras”. Na verdade, “os algoritmos não são empáticos: não decifram, nem compreendem os conceitos de humanidade ou probidade. Eles não esquecem, eles não perdoam, eles não estão cientes de sua própria falibilidade. Eles não têm uma escala de valores, nem distinguem as diferenças culturais ou sociais intrínsecas a eles. E como se isso não bastasse, eles não se autocorrigem sob critérios de compreensão, equilíbrio, justiça, ética, moralidade ou alteridade. Hoje, a compreensão humana continua, e continuará a sê-lo a longo prazo, essencial para a tomada de decisões sob critérios justos e equitativos”5. 2.3. Os trabalhadores são cada vez mais selecionados e descartados, substituídos e considerados quase descartáveis neste “sistema de referência profana”6. A reputação no mercado de trabalho online tornou-se incrivelmente importante para o trabalho na era digital e a pandemia provocada pela Covid19 levou a uma verdadeira explosão no desenvolvimento do controlo realizado pelos algoritmos. O uso de gestão algorítmica tem vindo a aumentar e foi fortemente impulsionado com a pandemia da COVID-19 através da utilização de software de trabalho remoto que permite recolher e monitorizar dados de performance 4 Veja-se o que consta da Recommendation CM/Rec(2020)1 of the Committee of Ministers to member States on the human rights impacts of algorithmic systems, de 8 de abril de 2020, “most algorithmic systems are based on statistical models in which errors form an inevitable part, sometimes with feedback loops that maintain, replicate and reinforce pre-existing biases, errors and assumptions”. 5 Vd. Estudo da UGT, Las decisiones algorítmicas en las Relaciones Laborales, fevereiro de 2021, p. 4. 6 Pav akhtar e P. more, “The psychosocial impacts of technological change in contemporary workplaces and trade union responses”, International Journal of Labour Research, vol. 8, n.º 1/2, 2016, p. 112. 555 LIBER AMICORUM BENEDITA MAC CRORIE laboral. Apesar deste tipo de gestão algorítmica ter surgido essencialmente na economia colaborativa no trabalho em plataformas digitais, é atualmente comum em vários setores de atividade, apoiando a gestão em recolha de informação, no processamento de informação e no controlo do trabalhador com base nessa informação recolhida, muitas vezes de forma pouco transparente As decisões são cada vez mais baseadas em algoritmos, colocando um novo problema para a sociedade, que é o desenvolvimento de uma sociedade baseada num novo tipo de black box – a black box society –, dada a opacidade e a falta de transparência dos algoritmos. Nesse cenário, é essencial lembrar que todos os tipos de controlo devem obedecer ao princípio da transparência, que é o conhecimento dos trabalhadores sobre o como, quando, onde e como o controlo é realizado. Este princípio é essencial para o correto processamento de dados pessoais das pessoas em geral, e dos trabalhadores em especial. Além disso, esse direito é reforçado no Regulamento Geral de Proteção de Dados e deve ser aplicado ao controlo executado pelos algoritmos, passando de uma black box society para uma espécie de transparent box society. 2.4. Ao utilizar os algoritmos, os empregadores podem processar grandes quantidades de dados para obter informações relevantes, que podem ser usadas para a tomada de decisões automatizadas. Por exemplo, os algoritmos podem acelerar o processo de recrutamento eliminando um grande número de currículos ou analisando entrevistas realizadas por vídeo, por exemplo, e selecionando os candidatos mais adequados. Os empregadores também podem usar algoritmos para avaliar o desempenho dos trabalhadores ou determinar que trabalhador deve ser promovido. Segundo uma pesquisa efetuada, 40% das funções de Recursos Humanos de empresas internacionais estão atualmente a empregar aplicações de IA7. Além disso, os algoritmos são usados pelas empresas, para distribuição de atividades, recompensas ou para despedir pessoas. A utilização de algoritmos pode otimizar estes processos e reduzir custos, uma vez que são necessárias menos pessoas para o recrutamento e avaliação dos trabalhadores ou dos candidatos. No entanto, o uso desses algoritmos não é isento de 7 PWC, Artificial Intelligence in HR: a no Brainer, 2018, disponível em https://www.pwc.at/de/publikationen/ verschiedenes/artificial-intelligence-in-hr-a-no-brainer.pdf. 556 GESTÃO ALGORÍTMICA riscos, pois eles podem discriminar os mesmos como tem acontecido em vários casos8. Com efeito, tal como apontado por Valerio de Stefano9, a Inteligência artificial pode ser utilizada para monitorizar a produtividade dos trabalhadores, identificar inovação e comportamentos desviantes, e a gestão baseada em algoritmos pode conduzir a formas de discriminação incluindo também a discriminação no acesso ao emprego. Assim, a falta de transparência e explicação sobre o funcionamento da decisão e predição dos algoritmos pode conduzir à exclusão de candidatos a emprego por força de fatores alheios ao perfil do posto de trabalho a preencher, bem como à insegurança dos trabalhadores. Neste último caso, ao permitir uma monitorização da performance dos trabalhadores, esta inteligência artificial pode aumentar a pressão sobre estes e aumentar o stress dos mesmos. Na verdade, a inteligência artificial e os algoritmos baseiam-se na informação que lhes é fornecida, incluindo comportamentos que podem ser discriminatórios e, por isso, não podemos esquecer-nos que a tecnologia é em si mesma neutra, o mesmo não se podendo dizer de quem a utiliza, cujo leitmotiv pode ser a eventual discriminação das pessoas. Através da linguagem que é transmitida ao algoritmo está-se a, consciente ou inconscientemente, possibilitar uma discriminação muitas vezes de grupos de pessoas que já enfrentam problemas de desigualdade, inter alia, em razão do género10, raça, idade e deficiência11. Os algoritmos são, no final, construções humanas: eles são criados, programados e treinados por seres humanos. As escolhas feitas por estes durante a programação de um algoritmo afetam toda a operação e resultados dos mesmos. Assim, os algoritmos não estão livres de inspiração humana. Além disso, os algoritmos são treinados com dados históricos. Se esses dados 8 Veja-se Teresa Coelho MOREIRA, “A discriminação algorítimica”, QL, n.º 58, 2021. 9 Valerio de stefano, “Introduction: Automation, Artificial Intelligence, and Labour Protection”, Comparative Labor Law & Policy Journal, vol. 41, n.º 1, 2019. 10 Cf. OIT, Final Report – Meeting of Experts on Violence against Women and Men in the World of Work, 2016, pp.40-41. 11 Um estudo realizado com base no ordenamento jurídico norte-americano demonstrou que os motoristas que são mais vezes escolhidos não pertencem a minorias religiosas ou raciais. Ver Yanbo ge et al., “Racial and Gender Discrimination in Transportation Network Companies”, NBER Working Paper, n.º 22776, 2016. 557 LIBER AMICORUM BENEDITA MAC CRORIE forem tendenciosos contra certos indivíduos ou grupos, o algoritmo replicará o viés humano e aprenderá a discriminá-los. O processo de seleção dos dados para inserir e treinar o algoritmo também é importante. Dados desatualizados, incorretos ou incompletos podem levar a erros de aprendizagem dos mesmos e interpretações erradas. Eventualmente, os algoritmos são tão bons quanto os dados nos quais eles são ensinados. É o que é normalmente denominado de garbage in, garbage out ou discrimination in, discrimination out12. Secundando o defendido por Tom Slee13 “os sistemas de rating falham na tarefa básica de fornecer informações de qualidade”. Estes algoritmos de rating são “the boss from hell: an erratic, bad tempered and unaccountable manager that may fire you at any time, on a whim, with no appeal”. Detetar discriminação por algoritmos não é fácil, especialmente porque eles são cada vez mais complexos. Na black box dos algoritmos, os dados que são inseridos na entrada, como, inter alia, o CV dos candidatos ou o desempenho de um trabalhador, ou na saída, por exemplo, qual o candidato que será chamado para uma entrevista de emprego ou qual o trabalhador que irá a ser promovido, são claros. No entanto, a forma como o algoritmo chegou a essa conclusão é um processo bastante opaco. É por isso que se defende que os algoritmos devem ser transparentes e incluir o princípio da igualdade de tratamento desde o início do processo de construção dos mesmos14,15. Por outro lado, considera-se que têm de ser passíveis de ser auditadas as decisões tomadas automaticamente e aqui o Regulamento Geral de Proteção de Dados proíbe o estabelecimento de decisões totalmente automatizadas e o profiling, bastando ter em atenção o Considerando 71 do Regulamento, que estabelece: “O titular dos dados deverá ter o direito de não ficar sujeito a 12 Como defendido pelo FRA Report about AI, “when deciding to grant a loan, credit history can be used to differentiate between individuals, but not on the basis of protected attributes, such as gender or religion. However, many personal attributes or life experiences are often strongly correlated with protected attributes. The credit history might be systematically different for men and women due to differences in earnings and job histories”. 13Apud Jeremias prassl e Auriane lamine, op. cit., pp. 282-283. 14 Vide Teresa Coelho MOREIRA, “Revolução 4.0”, Revista do Tribunal Regional do Trabalho da 15.ª região, n.º56, 2020, pp. 23 e ss. 15 Cf. Teresa Coelho moreira e Guilherme dray (coord.), Livro Verde sobre o Futuro do Trabalho 2021, Lisboa, GEP, 2022. 558 GESTÃO ALGORÍTMICA uma decisão, que poderá incluir uma medida, que avalie aspetos pessoais que lhe digam respeito, que se baseie exclusivamente no tratamento automatizado e que produza efeitos jurídicos que lhe digam respeito ou o afetem significativamente de modo similar, como a recusa automática de um pedido de crédito por via eletrónica ou práticas de recrutamento eletrónico sem qualquer intervenção humana. Esse tratamento inclui a definição de perfis mediante qualquer forma de tratamento automatizado de dados pessoais para avaliar aspetos pessoais relativos a uma pessoa singular, em especial a análise e previsão de aspetos relacionados com o desempenho profissional16, a situação económica, saúde, preferências ou interesses pessoais, fiabilidade ou comportamento, localização ou deslocações do titular dos dados, quando produza efeitos jurídicos que lhe digam respeito ou a afetem significativamente de forma similar”, assim como o artigo 22.º, com a epígrafe Decisões individuais automatizadas, incluindo definição de perfis. Assim, defende-se a existência de auditorias externas na utilização destes algoritmos. Os empregadores que submetam os mesmos a auditorias externas poderiam receber uma espécie de marca de certificação que distinguisse favoravelmente esses empregadores no mercado de trabalho. É que, na verdade, parece que, atualmente, a inteligência artificial não consegue lidar muito bem com a diversidade e, por isso, defende-se a construção de um novo tipo de algoritmo, que insira o princípio da igualdade desde a conceção e por defeito. Também é importante ter em atenção que as pessoas geralmente acreditam que quando o algoritmo desconhece variáveis, como sexo, idade ou raça, é incapaz de discriminar por esses motivos. No entanto, mesmo excluindo atributos específicos como uma variável de entrada, nada impede que o algoritmo produza resultados tendenciosos. Nesse caso, as chamadas informações de proxy podem causar um algoritmo tendencioso. Muitos exemplos mostram que a linguagem utilizada por alguém pode indicar indiretamente o sexo ou a raça. Um código postal pode indicar indiretamente a raça, origem 16 Itálico nosso. 559 LIBER AMICORUM BENEDITA MAC CRORIE étnica ou social de alguém. Como resultado, pode acontecer na mesma uma discriminação17. Atendendo a tudo isto parece-nos também ser bastante importante o que foi defendido pelo Grupo de Trabalho do Artigo 29.º18: “O responsável pelo tratamento não pode eximir-se do disposto no artigo 22.º fabricando uma intervenção humana. Por exemplo, se alguém aplicar de forma sistemática perfis gerados automaticamente a pessoas sem ter qualquer influência efetiva no resultado, tratar-se-á, ainda assim, de uma decisão tomada exclusivamente com base no tratamento automatizado. Para que se considere haver uma intervenção humana, o responsável pelo tratamento tem de garantir que qualquer supervisão da decisão seja relevante, e não um mero gesto simbólico. Essa supervisão deve ser levada a cabo por alguém com autoridade e competência para alterar a decisão e que, no âmbito da análise, deverá tomar em consideração todos os dados pertinentes”. Esta ideia parece-nos de fundamental importância nestes casos. 2.5. A Comissão Europeia19 estabeleceu que um dos requisitos para uma Inteligência Artificial de confiança é o da supervisão humana, defendendo que “ajuda a garantir que um sistema de IA não põe em causa a autonomia humana nem produz outros efeitos negativos. A supervisão pode ser realizada mediante mecanismos de governação como as abordagens de intervenção humana (human-in-the-loop — HITL), de fiscalização humana (human-on- -the-loop — HOTL), ou de controlo humano (human-in-command — HIC). Um outro requisito muito importante que é assinalado pela Comissão Europeia20 é o da privacidade e proteção de dados, considerando que “os 17 Como refere Ifeoma ajunwa, “Automated employment discrimination”, disponível em https://papers.ssrn.com/ sol3/papers.cfm?abstract_id=3437631&download=yes: “a racial housing segregation has resulted in a concentration of better-resourced schools in majority-white neighbourhoods where students who attend receive better preparation for taking standardized tests. Thus, although performance on standardized tests may be considered probative of job fitness, the use of such criterion could result in disparate impact. In recognition of the historical taint of structural bias on data that could otherwise be probative, some scholars have called for ‘algorithmic affirmative action,’ which focuses on transparency about the biases encoded in the data and the correction of the data the algorithms use rather than merely in the design of algorithms”. 18 Orientações sobre as decisões individuais automatizadas e a definição de perfis para efeitos do Regulamento (UE) 2016/679, p. 23. 19 Orientações éticas para uma IA de confiança, Bruxelas, 2019, p. 19. 20 Orientações éticas para uma IA de confiança, cit., p. 21. 566 GESTÃO ALGORÍTMICA as necessidades específicas de cada setor; Introduzir disposições na legislação que minimizem os novos riscos associados ao comportamento autónomo da IA, estabelecendo requisitos para assegurar a proteção da privacidade e dos dados pessoais, da igualdade e não-discriminação (ver pontos específicos para aprofundamento), da ética, da transparência e da explicabilidade dos sistemas baseados em algoritmos, quer ao nível da seleção de candidatos a emprego, quer ao nível da execução do contrato de trabalho e da fiscalização da atividade profissional do trabalhador”, e ainda “Prevenir mecanismos e práticas discriminatórias no uso de inteligência artificial e de algoritmos39 no quadro das relações de trabalho, ponderando a criação de um sistema que responsabilize os respetivos utilizadores ou criadores, em caso de comportamentos ilícitos”. No mesmo sentido, a Proposta de Lei n.º 15/XV/1ª que procede à alteração da legislação laboral no âmbito da agenda do trabalho digno40 estabeleceu algumas regras nesta matéria: acrescentando uma nova alínea no artigo 3.º, n.º 3, relativamente à utilização de o) “Uso de algoritmos, inteligência artificial e matérias conexas, nomeadamente, no âmbito do trabalho nas plataformas digitais”. Acrescentando, ainda, no n.º 3, do artigo 24.º uma parte primeira que estabelece que “O disposto nos números anteriores também se aplica no caso de tomada de decisões baseadas em algoritmos ou outros sistemas de inteligência artificial”. No artigo 106.º, relacionado com o dever de informação, adita-se uma nova alínea, alínea s), com o seguinte teor: “Os parâmetros, as regras e as instruções em que se baseiam os algoritmos ou outros sistemas de inteligência artificial que afetam a tomada de decisões sobre o acesso e a manutenção do emprego, assim como as condições de trabalho, incluindo a elaboração de perfis e o controlo da atividade profissional”, que é igual ao que se adiciona no artigo424.º, n.º 1, relativo ao conteúdo do dever de informação às comissões de trabalhadores na nova alínea, alínea j). No ordenamento jurídico espanhol a Ley 12/2021, de 28 de septiembre41, por la que se modifica el texto refundido de la Ley del Estatuto de los 39 Itálico nosso. 40 Publicada no DAR, de 22 de junho de 2022. 41 Que resulta do Real Decreto-ley 9/2021, de 11 de mayo. 567 LIBER AMICORUM BENEDITA MAC CRORIE Trabajadores, aprobado por el Real Decreto Legislativo 2/2015, de 23 de octubre, para garantizar los derechos laborales de las personas dedicadas al reparto en el ámbito de plataformas digitales e que introduz uma nova alínea no artigo64.º, n.º 4.º, do ET que obriga a que as comissões de trabalhadores serem informadas sobre os parâmetros, as regras e instruções em que se baseiam os algoritmos ou sistemas de inteligência artificial que afetam a tomada de decisões que podem afetar as condições de trabalho, o acesso e a manutenção do emprego, incluindo a definição de perfis42. Mais recentemente a Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, estabelece no artigo 3.º, n.º 1, que se aplica a “Inteligencia Artificial y gestión masiva de datos, así como otras esferas de análoga significación”, assim como no artigo 23.º, n.os 3 e 4, consagra-se respetivamente que “Las administraciones públicas y las empresas43 promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido” e que “Se promoverá un sello de calidad de los algoritmos”. 3. Conclusão Defende-se ser necessário regulamentar a utilização da gestão algorítmica sempre com base na ideia do “ser humano no comando”, assegurando que as decisões finais são tomadas por seres humanos e não por máquinas. Ao desenvolver e ao utilizar algoritmos, os empregadores devem estar cientes dos princípios fundamentais legais sobre privacidade e não discriminação. Por esta razão, os empregadores devem introduzir um sistema de controlo humano e devem sempre ser capazes de explicar como uma decisão foi tomada. 42 Cf. o Documento do Minstério de Trabajo y Economia Social que tenta estabelecer algumas regras e clarificar questões quanto à utilização dos algoritmos nas relações de trabalho - Información algorítmica en el ámbito laboral – guía práctica y herramienta sobre la obligación empresarial de información sobre el uso de algoritmos en el ámbito laboral, de maio de 2022. 43 Itálico nosso. 568 GESTÃO ALGORÍTMICA Além disso, eles devem garantir que o uso de algoritmos não ocorra em detrimento do princípio da igualdade. Afinal, o uso de algoritmos na tomada de decisão representa um risco para o direito dos trabalhadores à igualdade. É óbvio que a inteligência artificial e os algoritmos estão, de forma consistente, a exercer mais influência na forma como pensamos e organizamos em sociedade e, consequentemente, o avanço científico e jurídico não pode desvincular-se das questões éticas e jurídicas envolvidas neste novo cenário. Governar a inteligência artificial e, especificamente, governar os algoritmos com alguns princípios éticos e legais, como justiça, confiabilidade, segurança, privacidade, proteção de dados, inclusão, transparência e responsabilidade, e a técnica de igualdade desde a conceção e por defeito, são um passo importante para tentar seguir o ritmo da inovação tecnológica, ao mesmo tempo em que se tenta garantir a eficácia da lei. Os algoritmos podem auxiliar a realizar esta alteração positiva, mas segundo critérios adequados, controlados e transparentes.