A responsabilidade médica no âmbito hospitalar público e a Inteligência Artificial

Universidade do Minho Escola de Direito Rafaela Alexandra Costa da Silva A Responsabilidade Médica no Âmbito Hospitalar Público e a Inteligência Artificial Janeiro de 2024 UMinho|2024 Rafaela Costa da Silva A Responsabilidade Médica no Âmbito Hospitalar Público e a Inteligência Artificial Trabalho efetuado sob a orientação da Professora Doutora Isa Filipa António de Sousa Outubro de 2023 i Universidade do Minho Escola de Direito Rafaela Costa da Silva A Responsabilidade Médica no Âmbito Hospitalar Público e a Inteligência Artificial Dissertação de Mestrado Mestrado em Direito Administrativo: Justiça Administrativa. Trabalho efetuado sob a orientação da Professora Doutora Isa Filipa António de Sousa Janeiro de 2024 ii DIREITOS DE AUTOR E CONDIÇÕES DE UTILIZAÇÃO DO TRABALHO POR TERCEIROS Este é um trabalho académico que pode ser utilizado por terceiros desde que respeitadas as regras e boas práticas internacionalmente aceites, no que concerne aos direitos de autor e direitos conexos. Assim, o presente trabalho pode ser utilizado nos termos previstos na licença abaixo indicada. Caso o utilizador necessite de permissão para poder fazer um uso do trabalho em condições não previstas no licenciamento indicado, deverá contactar o autor, através do RepositóriUM da Universidade do Minho. Licença concedida aos utilizadores deste trabalho: Atribuição-NãoComercial-SemDerivações CC BY-NC-ND https://creativecommons.org/licenses/by-nc-nd/4.0/ iii AGRADECIMENTOS A realização desta dissertação contou com importantes apoios, sem os quais não teria sido possível e aos quais ficaria eternamente grata. Muito se escreveu durante esta dissertação sobre a imputação de responsabilidades, razão pela qual, neste momento, cumpre-me imputar agradecimentos profundos a todos aqueles que contribuíram para a realização desta dissertação, que caracterizo como um trabalho árduo, mas gratificante do ponto de vista académico e pessoal. Primeiramente – e como não podia nunca deixar de ser – o primeiro agradecimento é dirigido aos meus pais, cujo agradecimento é o mais especial, por serem o meu modelo de coragem, por apoiarem todas as minhas ideias, acreditarem sempre em mim, ouvirem todas as minhas dúvidas, desmistificando-as, incentivando-me sempre a arriscar. A eles tudo devo. Aos meus irmãos, que mesmo entrando pelo meu quarto adentro a cada 10 minutos, são o meu porto de abrigo para tudo e por eles tudo farei. À minha avó. A minha supermulher. 88 anos de puro trabalho árduo, independência e rigor. A quem agradeço pelas palavras de carinho, pela comidinha tão boa e pelo riso fácil com que sempre se apresenta. Às minhas amigas, aos quais sabem quem são e a quem presto um desmedido agradecimento por todas as horas de confidência e parceria neste caminho. Ao meu namorado, Guilherme, que no meio de uma tempestade seria, certamente, dos poucos a ver um sol radioso. Um companheiro de todas as horas, um ouvinte cuja paciência é inesgotável e um companheiro que vibra comigo como se as vitórias fossem dele. Ao meu “cãopanheiro”, Joli. Dono de um olhar meigo, de um feitio preguiçoso e de um amor inigualável. Jamais poderia deixar de prestar o meu agradecimento àquele que todas as horas enquanto eu dissertava dormia ao meu lado. Por último, mas não menos importante, à minha orientadora, Professora Doutora Isa António, pelo seu exemplar apoio, por me encaminhar na direção certa e por generosamente sempre ter compartilhado os seus sábios conhecimentos iv DECLARAÇÃO DE INTEGRIDADE Declaro ter atuado com integridade na elaboração do presente trabalho académico e confirmo que não recorri à prática de plágio nem a qualquer forma de utilização indevida ou falsificação de informações ou resultados em nenhuma das etapas conducentes à sua elaboração. Mais declaro que conheço e que respeitei o Código de Conduta Ética da Universidade do Minho v A Responsabilidade Médica no Âmbito Hospitalar Público e a Inteligência Artificial RESUMO A Saúde e meios tecnológicos revelam-se dois temas extremamente importantes para o Estado e para a sociedade civil. No pretérito reconhecia-se à área da saúde e à área tecnológica uma relação quase inexistente. Atualmente, os robôs dotados de Inteligência Artificial são autónomos e capazes de tomar as suas próprias decisões, pelo que a sociedade reconhece uma notória evoluc!ão nesta área, reconhecendo também a crescente utilização de tecnologias no quotidiano do cidadão, mormente na área da saúde. Os casos de responsabilidade médica só mais recentemente começaram a ser debatidos nos Tribunais e as condenações se tornaram mais frequentes. Por outro lado, é notória a progressiva incorporação da IA nas mais variadas atividades e, de facto, a área da saúde não ficou indiferente, almejando na intervenção destes sistemas inteligentes reduzir os custos e garantir uma melhor qualidade de prestação nos cuidados de saúde. Neste ensejo, evidencia-se que a interação entre os agentes autónomos e a medicina é uma realidade cada vez mais constante, pelo que deve o Direito adaptar-se às novas realidades sociais. Com o exposto se relaciona, assim, a nossa vontade de tratar este tema, através da apreciação, análise e problematização de questões como a responsabilidade civil dos médicos por atos por si praticados e a responsabilidade dos agentes autónomos. O tema é complexo e delicado, pelo que não temos o intuito de resolvê-lo. Pretende-se, pois, analisar as possíveis soluções do ordenamento jurídico português, analisando a aptidão destas para os danos provocados por erros médicos e sistemas dotados de Inteligência Artificial. Palavras-chave : agentes autónomos, imputação de responsabilidade, inteligência artificial, responsabilidade civil médica vi Medical Responsibility in the Public Hospital and Artificial Intelligence ABSTRACT Health and technological means are two extremely important issues for the government and for civil society. In the past, the health area and the technological area were recognized as having an almost non-existent relationship. Currently, robots equipped with Artificial Intelligence are autonomous and capable of making their own decisions, so society recognizes a notorious evolution in this area, also recognizing the growing use of technologies in the daily life of citizens, especially in the area of health. Medical liability cases have only recently begun to be debated in the courts and convictions have become more frequent. On the other hand, the progressive incorporation of AI in the most varied activities is notorious and, in fact, the health area was not indifferent, aiming to reduce costs and ensure a better quality of health care provision in the intervention of these intelligent systems. So, as I mentioned, it is evident that the interaction between autonomous agents and medicine is an increasingly constant reality, so the Law must adapt to the new social realities. This is related to our desire to address this issue through the appreciation, analysis and problematization of issues such as the civil liability of physicians for acts performed by them and the liability of autonomous agents. The subject is complex and delicate, so we do not intend to solve it. It is intended, therefore, to analyze the possible solutions of the Portuguese legal system, analyzing their suitability for the damages caused by medical errors and systems equipped with Artificial Intelligence. Keywords: artificial intelligence, assignment of responsibility, autonomous agents, medical responsibility vii ÍNDICE INTRODUÇÃO .................................................................................................................................................... 1 CAPÍTULO I – A RESPONSABILIDADE MÉDICA: GENERALIDADES ...................................................................... 3 1. RESPONSABILIDADE DO ESTADO POR ATOS MÉDICOS: UMA VISÃO JURISPRUDENCIAL ATUAL ................. 5 2. A OBRIGAÇÃO DO PROFISSIONAL DE SAÚDE: OBRIGAÇÃO DE MEIOS E OBRIGAÇÃO DE RESULTADO ...... 13 2.1. A DESADEQUAÇÃO ATUAL DA CLÁSSICA DISTINÇÃO. UMA CATEGORIA “NOVA” DE OBRIGAÇÃO DO PROFISSIONAL DE SAÚDE? ............................................................................................................................. 19 3. A ÉTICA PROFISSIONAL E OS CRITÉRIOS DE EXIGIBILIDADE EM TORNO DO “ATO MÉDICO”: AS LEGIS ARTIS ........................................................................................................................................................................ 20 3.1. O DESVIO ÀS LEGIS ARTIS: O ERRO MÉDICO ............................................................................................ 24 4. TIPOLOGIAS DE ATOS MÉDICOS ................................................................................................................. 27 5. MODALIDADES DE RESPONSABILIDADE MÉDICA E SEUS PRESSUPOSTOS: ANÁLISE DA LRCEE ................. 29 5.1 RESPONSABILIDADE SUBJETIVA OU POR FACTOS ILÍCITOS ...................................................................... 30 5.2 RESPONSABILIDADE OBJETIVA ................................................................................................................. 36 CAPÍTULO II – A INTELIGÊNCIA ARTIFICIAL NA SAÚDE ................................................................................... 39 1. A REVOLUÇÃO TECNOLÓGICA DA INTELIGÊNCIA ARTIFICIAL NA SAÚDE .................................................... 39 2. INTELIGÊNCIA ARTIFICIAL: CONCETUALIZAÇÃO E TIPOLOGIAS .................................................................. 44 3. A EXPERIÊNCIA COMPARADA DA UTILIZAÇÃO DA IA NA SAÚDE: BENEFÍCIOS E PROBLEMAS DETETADOS55 4. PRINCIPAIS RISCOS E PERIGOS PARA O UTENTE DO SERVIÇO NACIONAL DE SAÚDE (SNS) RESULTANTE DA IA. .................................................................................................................................................................... 58 CAPÍTULO III – RESPONSABILIDADE MÉDICA DOS HOSPITAIS DO SNS POR DANOS CAUSADOS PELA INTELIGÊNCIA ARTIFICIAL ............................................................................................................................... 60 1. A NATUREZA JURÍDICA DA PRESTAÇÃO DE CUIDADOS DE SAÚDE NO SEIO HOSPITALAR PÚBLICO (RELAÇÃO JURÍDICA) VS. A NATUREZA JURÍDICA DOS CUIDADOS MÉDICOS PRESTADOS NO SETOR PRIVADO (CONTRATO). .................................................................................................................................................. 60 2. O ERRO MÉDICO PROVOCADO PELA IA. CASOS-EXEMPLO. ........................................................................ 65 3. O CASO ESPECIAL DO “FUNCIONAMENTO ANORMAL DO SERVIÇO PÚBLICO” OCASIONADO PELA IA. ..... 67 3.1 A RELEVÂNCIA DA DICOTOMIA “FAUTE DU SERVICE” E “FAUTE DE SERVICE” ......................................... 72 5 responsabilidade por factos ilícitos – advém de um delito, que se consubstancia numa conduta reprovada pela ordem jurídica -, por factos lícitos e pelo risco – prescindindo-se de culpa, de reprovação, pelo que se tratam de responsabilidade objetiva, conforme veremos adiante. Ainda que não existam muitos casos de responsabilidade médica em Portugal que chegam aos Tribunais e, de uma maneira geral, sejam raras as situações em que aqueles decidem a favor do lesado, recentemente a responsabilidade dos médicos tem vindo a alterar o seu desfecho, designadamente porque de há uns tempos para cá os cidadãos - atualmente mais esclarecidos – anseiam e reivindicam a importância de abordar este tema na sociedade numa perspetiva de regeneração, não se amedrontam perante a justiça, razão pela qual é chamado à colação o instituto jurídico capaz de responder a questões prementes como a responsabilização por atos médicos praticados, que será escrutinado no âmbito deste trabalho. 1. Responsabilidade do Estado por atos médicos: uma visão jurisprudencial atual A procura de jurisprudência atinente a este tema revelou-se crucial para dar início ao trabalho em apreço, descortinando as questões inerentes ao tema partindo de uma perspetiva prática, almejando uma melhor investigação. Embora, atualmente, o panorama judicial se tenha alterado substancialmente, certo é, porém, que a jurisprudência relativa a prestação de cuidados médicos no SNS, ou seja, atinente a erros médicos ocorridos em hospitais públicos, não é muito vasta. No entanto, teceremos considerações sobre acórdãos que trazemos a juízo. Chegados aqui, vejamos, primeiramente, dois acórdãos relativos a casos de omissão médica: o primeiro9 tem como escopo uma ação de responsabilidade civil por omissão de cuidados médicos. Trata uma ação proposta pelos Autores, em representação do seu filho menor, contra um hospital - o Hospital Maria Pia, no Porto, envolvendo uma multiplicidade de estabelecimentos e profissionais de saúde. Concretamente, a médica em causa tinha um contrato de seguro de responsabilidade civil profissional (com uma empresa interveniente no processo). Pode ler-se neste acórdão que a criança em apreço durante o seu primeiro ano de vida não teve qualquer problema, pelo que viveu normalmente e feliz. No entanto, volvido algum tempo, a criança começou a ser seguida num Centro de Saúde - o Centro de Saúde da Póvoa do Varzim, com um médico de família atribuído. A 9 Ac. do STA, datado de 13-03-2012, Proc. nº 0477/11, Relator Políbio Henriques, disponível para consulta em: http://www.dgsi.pt/jsta.nsf/35fbbbf22e1bb1e680256f8e003ea931/41626a3d9173b651802579d1002ca983 Consultado em 28.04.203 (consultado em 28/04/2023). 6 mãe da criança levou uma carta do hospital onde a criança nasceu, ré nos autos em apreço, para o medico de família, cujo teor se resumia a uma consulta que não foi devidamente marcada apesar da solicitação. Neste sentido, a criança foi reenviada para o Maria Pia, para consulta, onde, nesse hospital, foi posta a hipótese de laringomalácia. Posteriormente, a criança passou a ser seguida no Hospital da Póvoa do Varzim, após crises respiratórias constantes, que provocaram a entrada nas urgências. Mais tarde, teve uma paragem cardiorrespiratória, dando entrada na urgência do Hospital da Póvoa do Varzim, tendo sido transferido para o Santo António. Já neste último estabelecimento hospital, a criança entrou em coma. Foi-lhe detetado um tumor (benigno) na laringe, que lhe impedia a respiração normal, motivo pelo qual foi transferida para o Hospital de Vila Nova de Gaia, onde sofreu várias intervenções cirúrgicas. Mais tarde, a criança voltou para o Hospital de Santo António, onde ficou internada vários dias em coma. Consequentemente, tornou-se numa criança totalmente dependente dos cuidados de terceiros para sempre. Importa, no âmbito da análise deste acórdão, que resultou provado que o Hospital Maria Pinha tinha os meios necessários para o diagnóstico, tratamento e cura. Pelo que, o Tribunal a quo afirmou ter ocorrido a violação das legis artis, sob a forma de uma omissão, com fundamento na tenra idade da criança, que desde logo exige um acompanhamento profundo da equipa médica, uma vez que não consegue exprimir o que sente, bem como o facto de já ter havido suspeitas da médica relativamente a uma eventual doença da criança, em juízo representada pelos seus progenitores. Ademais, considerou este Tribunal que os papilomas na laringe, se atempadamente detetados, podem ser removidos sem sequelas, pelo que, concretamente, este caso se resume a uma má conduta médica. Desde logo, porque a médica apenas marcou consulta para um ano depois, sem ter investigado devidamente sobre a doença da criança, nem se interessado na evolução da situação. Razão pela qual, a conduta adotada pela médica ficou aquém do que era exigível a um médico razoável, responsável, zeloso, cumpridos. No que concerne ao segundo e último acórdão relativo a omissão médica trazido a análise, podemos ver, de modo sucinto, por exemplo da decisão do Tribunal Judicial de Viseu10, que condenou o médico arguido por homicídio negligente, cometido por omissão, em virtude de ter omitido culposamente certos cuidados, incluindo o recurso a meios complementares de diagnóstico, uma vez que, de acordo com os registos clínicos, em cerca de 25 minutos foi 10 Ac. do Tribunal Judicial de Viseu, datado de 05-02-2005, Proc. n.º 1148/98.5TAVIS, Relator António Cunha, disponível para consulta em: https://www.verbojuridico.net/jurisp/1instancia/1iviseu_homicidionegligenciamedica.pdf (consultado em 28/04/2023). 7 preenchida a ficha, feita a triagem e o atendimento médico. A responsabilidade por omissão não pressupõe necessariamente a total inércia, pois muitas vezes são avaliadas como omissões aquelas situac!ões em que o médico atua de um determinado modo, mas omitindo a conduta exigida pelas leges artis , como aqui, neste caso concreto, aconteceu. Passemos agora à análise de acórdãos relativamente à prestação de cuidados médicos no SNS, concretamente, a erros médicos ocorridos não por omissão, mas por ação. Neste ensejo, o Acórdão do Tribunal Central Administrativo Norte11, o Autor intentou a competente ação administrativa comum contra um estabelecimento de saúde público, pedindo a condenação deste último com fundamento na responsabilidade civil extracontratual decorrente do erro médico. Para o efeito, o Autor alegou que em 03 de Março de 2011 dirigiu-se ao Hospital na sequência de dores de barriga e mal-estar intestinal, bem como outros sintomas, nomeadamente, inchaço abdominal e diarreia, onde, volvidas algumas horas, realizou uma tomografia axilar computorizada (TAC). Nessa sequência, aquando da introdução, pela enfermeira, do contraste para realizar o exame, o Autor dos presentes autos, sentiu uma dor aguda, tendo a sua mão esquerda começado a inchar. Contudo, e apesar da advertência pelo Autor à enfermeira que a sua mão esquerda estaria a inchar, esta desvalorizou a situação, aplicando apenas uma ligadura médica cobrindo todo o pulso e parte da mão esquerda. Todavia, na madrugada do dia seguinte quando um enfermeiro lhe retirou as ligaduras constataram que o Autor estava a sofrer uma grave queimadura química devido ao extravasamento do contraste. Neste seguimento, foi sujeito a sete cirurgias de modo a evitar a amputação do braço esquerdo e, consequentemente, ficou sem força no braço, tem dores permanentes e perdeu quase toda a autonomia que tinha. Em sumo, fundamentou o seu pedido de responsabilidade civil extracontratual alegando que as lesões sofridas decorreram da atuação dos profissionais de saúde ao serviço do Hospital Réu, decorrente do derramamento do líquido de contraste na mão esquerda que lhe causou queimaduras graves, bem como da atuac!ão subsequente do pessoal médico e de enfermagem que desvalorizaram as dores e mal-estar de que estava a padecer, e que levaram a que tivesse que ser submetido a diversas cirurgias. O Hospital, na qualidade de Réu na ação, contestou, invocando, em suma, que todos os procedimentos e regras de arte foram integralmente cumpridos — não foram violadas as legis artis e que a Autora havia prestado o “consentimento informado” para a realização do exame, 11 Ac. do TCAN, datado de 30-10-2020, Proc. n.º 02027/12.0BEPRT, Relator Helena Ribeiro, disponível para consulta em:http://www.dgsi.pt/jtcn.nsf/89d1c0288c2dd49c802575c8003279c7/9fc8da4097fc39138025861d0043049a (consultado em 28/04/2023) 8 donde constam os riscos inerentes à realização do exame, negando, assim, qualquer responsabilidade devida pelos danos ocorridos. Em 05 de Dezembro de 2013 o TAF do Porto proferiu sentença, julgando a ação parcialmente procedente, condenando o Hospital Réu a pagar à Autora uma indemnização por danos não patrimoniais. Todavia, o Réu interpôs recurso jurisdicional, que, por sua vez, concedeu provimento ao recurso fundamentando que o extravasamento do contraste na execuc!ão da TAC constitui um risco inerente ao próprio exame, e que pode ocorrer, mesmo quando os profissionais que o executam e que acompanham a paciente, tenham observado todas as regras da boa execuc!ão do mesmo e que, por isso, não resultou provado que nesta matéria os profissionais da ré tenham violado - por ac!ão ou por omissão - as regras da arte, quer na execuc!ão da TAC, quer na prestac!ão de cuidados de saúde à Autora, antes e após o extravasamento do contraste. Cumpre-nos, agora, analisar outro acórdão, datado de 05-11-2021, do Tribunal Central Administrativo Norte12. O presente acórdão reporta-se a um recurso jurisdicional intentado pelo Autor uma vez que no TAF do Porto foram os Réus – o médico e o centro hospitalar – absolvidos dos pedidos formulados. Vejamos, para que se perceba, o quadro fáctico apurado na decisão recorrida: o Autor do recurso aqui analisado sofre de uma hérnia discal, motivo pelo qual realizou uma consulta no estabelecimento de saúde do segundo ré, tendo-lhe sido aconselhada uma intervenção cirúrgica, o que aconteceu no dia 05 de Fevereiro de 2007. No pós-operatório detetou- -se a rouquidão do Autor, tendo-lhe, posteriormente, sido diagnosticada paresia da corda vocal direita. Nesta sequência, temendo uma nova operação, à qual expressamente se recusou, o Autor foi submetido a diversas sessões de fisioterapia, não obstante as mesmas não terem surtido o efeito que pretendia. Aquando da interposição do recurso em análise, o Autor apresenta-se sem melhorias, isto é, continua a sofrer de rouquidão, tendo dificuldade em falar e, quando fala, sente cansaço. Em consequência da intervenção cirúrgica, o A. esteve de baixa médica desde Fevereiro de 2007 até 06 de Janeiro de 2009. Resultou provado no presente Acórdão que o Autor passou a sofrer de disfonia como consequência da intervenc!ão neurocirúrgica realizada em 05-02-2007, pelo que se deve ter como assente a verificação da lesão invocada nos autos e sua imputação à cirurgia visada nos autos, o que se assume expressamente. No entanto, nestes casos, é necessário que tenha havido uma atuação negligente nos autos, impondo-se, para tal, que a afetac!ão da corda vocal direita do Autor 12 Ac. do TCAN, datado de 05-11-2021, Proc. n.º 00533/11.3BEPRT, Relator Ricardo de Oliveira e Sousa, disponível para consulta em: http://www.dgsi.pt/jtcn.nsf/89d1c0288c2dd49c802575c8003279c7/f42520419cf9db968025879f005a1895?OpenDocument&Highlight=0,00 533%2F11.3BEPRT (consultado em 28/04/2023). 9 emergente da cirurgia desenvolvida pelo primeiro Réu traduza a representac!ão de uma conduta ética e subjetivamente censurável. Nesse sentido, convocou-se a perícia-médica e com base nesta, o TCAN, entendeu que rouquidão consubstancia uma lesão pouco associada à cirurgia a hérnias discais, mas que pode ocorrer se não forem tomadas medidas preventivas por parte do médico cirurgião, como sejam, o afastamento tanto possível suave dos órgãos pré-vertebrais e a não coagulação ou o corte de nervos ao longo do acesso cirúrgico. Pelo que, tratando-se o primeiro Réu de um agente profissional, especializado na área em apreço, impunha-se-lhe um tipo de comportamento e cuidado, justificando-se, como tal, a adoção de medidas preventivas. Assim, da matéria factual assente não resulta qualquer indício de que a atuação do médico Ré tenha sido dirigida diretamente à produção na lesão descrita nos autos. Todavia, exigindo a situação concreto a tomada de medidas preventivas, que não se vieram a demonstrar, considerou o Tribunal Central Administrativo do Norte que, no caso concreto, não foram adotas as regras de prudência e cuidado exigíveis para a situação apresentada pelo Autor, o que consubstancia uma conduta ética e subjetivamente censurável, na parte em que considera que o médico deve agir segundo as exigências das leges artis e os conhecimentos científicos então existentes, atuando de acordo com um dever objetivo de cuidado. Pelo que, foi concedido provimento ao recurso, condenando o segundo Réu. No presente ano foram também proferidas decisões atinentes a esta matéria cuja apreciação é pertinente. No Acórdão Tribunal Central Administrativo do Norte13, dois Autores, na qualidade de herdeiros, moveram uma ação administrativa contra um estabelecimento de saúde público e três médicos, peticionando a condenação solidária destes no pagamento de uma indemnização com fundamento na responsabilidade civil extracontratual por factos ilícitos corrente de erro médico, na modalidade de erro de diagnóstico. Para o efeito, alegaram que o falecido recorreu aos serviços de urgência do Hospital, padecendo de fadiga, picadelas nas extremidades dos dedos das mãos, tonturas, distorção da imagem e perda de apetite. Nessa altura, foi-lhe realizado um exame neurológico e um TAC cerebral, cujos resultados foram normais, pelo que foi dada alta com o diagnóstico de possível vertigem periférica e com a recomendação de ser observado novamente caso os sintomas persistissem, o que não tardou a acontecer, pois, volvidos poucos dias, o falecido recorreu 13 Ac. do TCAN, datado de 30-06-2023, Proc. n.º 01535/12.8BEPRT, Relator: Helena Ribeiro, disponível para consulta em: http://www.dgsi.pt/jtcn.nsf/89d1c0288c2dd49c802575c8003279c7/9b8a757ce8e68231802589ef0030bbe4?OpenDocument&Highlight=0,0 1535%2F12.8BEPRT (consultado em 13/07/2023). 10 novamente ao serviço de urgências, tendo-lhe, por essa razão, sido proposto o internamento. Permaneceu consecutivamente internado até à data em que faleceu. Acontece que no dia que recorreu novamente às urgências, o falecido, queixou-se de falta de forças, fadiga na marcha, tendo sido avaliado na especialidade de cardiologia, onde após a realização de exames específicos, os resultados demonstravam uma falência cardíaca. Todavia, no relatório de urgência nada consta sobre o sucedido. Não obstante ter sido recomendada a repetição do eletrocardiograma, o doente nunca chegou a realizá-lo. Bem como, apesar da insistência do falecido, aquando do internamento, que afirmava não ter força no braço esquerdo, tal queixa nunca foi valorizada pelas rés médica, tendo-lhe sido dada apenas uma mola de mãe para premir e recuperara a força do braço. Perante o paciente e perante a sua esposa, Autora nos autos em análise, após a queixume do paciente, afirmaram que não precisavam de ir consultá-lo pois sabia perfeitamente pelas colegas, as rés médicas, qual a doenc!a que ele tinha, referindo à autora que era do “foro sistémico”, querendo ele dizer com isto, como explicou, que o paciente “tinha o corpo todo contaminado com metástases devido a doenc!a do foro oncológico”, e que esta “pusesse o corac!ão ao largo pois nada mais havia a fazer”. Ora, nenhum dos médicos, Réus na presente ação, prestou ao doente os cuidados médicos necessários para curar o doente, tanto assim é que lhe prescreveram uma broncofibroscopia, que, após o óbito, e atento a autopsia médico-legal, os peritos médicos concluíram que a morte se devera a enfarte de miocárdio em fase inicial de cicatrizac!ão com cerca de 10 a 14 dias de evoluc!ão, devido a aterosclerose coronária severa, com obstrução de 80%, com trombose associada, sendo esta a causa de morte natural. Razão pela qual, alegaram que o réus médicos cometaram um erro grosseiro e indesculpável, o erro médico de diagnóstico e tratamento do doente, evidenciando os seus comportamentos negligencia e imprudência médicas e que foram causa adequada do agravamento da doenc!a do paciente e da sua morte, tendo-lhe diagnosticado erradamente um cancro com metástases, sendo certo que o paciente nunca foi canceroso e que a sua morte foi devida a “enfarte de miocárdio em fase inicial de cicatrizac!ão com cerca de 10 a 14 dias de evoluc!ão, devido a aterosclerose coronária severa, com obstruc!ão de 80%, com trombose associada”. Assim, o Tribunal Administrativo e Fiscal do Porto proferiu sentença, condenando o estabelecimento de saúde público, que deu lugar ao recurso de apelação, objeto do presente estudo. Perante a factualidade descrita, afirmou o Tribunal ad hoc que manifestamente não está 11 em causa uma qualquer atuação dolosa ou intencional, porém, a atuação dos médicos que assistiram o doente não se pode caracterizar como de mera imperícia ou imprudência, antes de negligência, pois, efetivamente, os médicos dispunham de elementos aptos a sustentar uma investigação de doença cardíaca, que passaria pela realização de mais estudos e exames até se encontrar um diagnóstico que permitisse o tratamento adequado do doente, o que não fizeram e também realizaram um exame invasivo – a broncofibroscopia – que, atento o estado de saúde do doente, provavelmente, foi decisório. Pelo que, foi em consequência desse erro de diagnóstico e tratamento cometido pelos médicos do Centro Hospitalar réu que o falecido não recebeu tratamento para doenc!a cardíaca isquémica ou cardiopatia isquémica, de que padecia, e da qual adveio a insuficiência cardíaca aguda secundária, que determinou a sua morte, não havendo dúvida que o erro de diagnóstico e de tratamento foi causa adequada da morte do mesmo. Assim, os Juízes Desembargadores do Tribunal Central Administrativo do Norte negaram provimento ao recurso interposto e, em consequência, confirmam a sentença recorrida. Fundamentando, em súmula, que a atuação dos médicos que assistiram o falecido, representado em Juízo pela sua esposa e dois filhos, foi descuidada, levando-os a não prestarem a devida atenção aos sinais revelados pelos exames realizados ao doente que estava sob os seus cuidados, que indicavam a existe$ncia de doenc!a cardíaca, incorrendo num erro de diagnóstico e, consequentemente, de terapêutica, de que veio a resultar, infelizmente, a morte daquele, uma vez que era exigível aos profissionais médicos que assistiram o paciente que alargassem o leque das hipóteses de investigac!ão face à não confirmac!ão dos diagnósticos que, ao longo do internamento, foram fazendo. Passemos, agora, à análise do último Acórdão escolhido para apreciação no âmbito do presente subcapítulo. O Acórdão datado de 10-03-2023, do Tribunal Central Administrativo do Norte,14 a Ré, inconformada com a sentença proferida, que julgou a ação procedente, interpôs recurso de apelação. Em súmula, a presente ação foi intentada pela Autora com fundamento em responsabilidade civil extracontratual por facto ilícito decorrente de erro médico contra um estabelecimento de saúde público. Alegou, para tanto, conforme se pode ler no Acórdão citado, que foi submetida a intervenc!ão cirúrgica, realizada nas instalac!ões e por médicos da Ré, que 14 Ac. do TCAN, datado de 10-03-2023, Proc. n.º 00029/15.4BEBRG, Relator: Helena Ribeiro, disponível para consulta em: http://www.dgsi.pt/jtcn.nsf/89d1c0288c2dd49c802575c8003279c7/d6652c7320b7a54c80258971004c77a4?OpenDocument&Highlight=0,0 0029%2F15.4BEBRG (consultado em 15/03/2023). 12 consistiu em histerectomia total, da qual se veio a constatar resultar repuxamento dos ureteres, o que lhe causou infec!ões urinárias, incontinência e necessidade de se submeter a vários tratamentos e outras cirurgias, para correção, o que lhe causou enormes dores, angústias e desgostos, bem como danos de natureza patrimonial. As lesões que sofreu, e que lhe causaram aqueles danos, devem-se a negligência por parte dos médicos da ré, pelo que deve ser esta responsabilizada pelo respetivo ressarcimento. Neste sentido, o Tribunal Administrativo e Fiscal de Braga, julgou a ação procedente, fundamentando, em síntese, que efetivamente não foram adotadas as regras de legis artis adstritas à profissão do médico, bem como, refere ainda na sentença proferida que, se a intervenção cirúrgica de histerectomia tivesse sido realizada com a normal destreza e atenção, não teria havido necessidade das cirurgias posteriores e tratamentos a que a Autora teve de submeter-se. Todavia, a Ré, inconformada com a douta decisão recorreu da mesma para o Tribunal Central Administrativo do Norte, o qual, no seu entendimento, analisando, além do demais, o vertido na Petição Inicial da Autora, permitiu, sem hesitação, dizer que a mesma não tem virtualidade de responsabilizar a Ré/Recorrente, seja a que titulo for, entendo que não estão alegados factos que permitam a procedência do pedido com base na responsabilidade delitual. Vejamos ainda, neste Acórdão, que foi entendimento do Tribunal ad hoc , que no caso da Autora, o repuxamento de ambos os ureteres não se deveu ao descuido, desatenc!ão ou imprude$ncia de ambos os cirurgiões, em simultâneo, mas sim que na respectiva actuac!ão ambos se confrontaram com as mesmas dificuldades, para as quais concorreram as condic!ões anatómicas da própria Autora, que apresentava obesidade, sobredimensão do útero e anterior realizac!ão de uma apendicectomia. Ademais, fundamentaram a decisão atendendo também à grande proximidade de ambos os órgãos (bexiga e útero), e a história clínica da Autora, com a realizac!ão de uma apendicectomia anterior, bem como ao facto de o repuxamento dos ureteres ocorrido ser uma complicac!ão enquadrável na percentagem de risco de realizac!ão da histerectomia. Deste modo, o Tribunal ad hoc entendeu que apenas se exige que o médico assuma um comportamento particularmente diligente, que o exonera de responsabilidade, se o cumprimento requerer uma diligência maior. Ora, segundo consta neste Acórdão, resultou provado que o repuxamento dos ureteres ocorrido é uma complicac!ão enquadrável na percentagem de risco de realização da histerectomia. Pelo que decidiu o Tribunal ad hoc pela não conclusão da existência, neste aspeto, de omissão de um comportamento devido, a inobservância das legis artis , pelo que 13 julgou a apelação procedente e, consequentemente, revogou a parte decisória da sentença, absolvendo o Réu do pedido. 2. A obrigação do profissional de saúde: obrigação de meios e obrigação de resultado A obrigação do profissional de saúde enquanto obrigação de meios e/ou de resultado é uma dicotomia imprescindível de ser referida quando o tema em apreço é a responsabilidade civil médica, uma vez que consubstanciam dois conceitos intimamente ligados. Desde logo, e porque existe no ordenamento jurídico português um sistema dual de responsabilidade civil médica, que diverge consoante o profissional preste a sua atividade num hospital público ou numa clínica privada, este facto promove um grau de dificuldade maior no que concerne à questão da natureza da relação médico-paciente e as suas implicações jurídicas, determinado, assim, que a natureza jurídica do ato médico, que é uma temática bastante delicada, obtenha, por vezes, respostas jurisprudências e doutrinais paradoxais. A relação médico-paciente poderá assumir-se como uma relação contratual, quando o contrato entre o profissional e o paciente precede o procedimento médico. Por outro lado, distintamente, a relação entre o médico e o paciente assumirá feição extracontratual justamente quando o exercício da medicina ocorre no âmbito de um estabelecimento público de saúde15 ou, de um modo menos rigoroso, num hospital público16 - âmago do presente trabalho – ante a possibilidade da ação médica de emergência, de inconsciência do paciente, de procedimentos não consentidos17. Assim, quanto à questão da natureza da relação e da responsabilidade que se estabelece entre médico e paciente encontramos, na Doutrina, essencialmente três posições: na clínica privada a responsabilidade é puramente contratual e no hospital público é puramente extracontratual; na clínica privada a relação é contratual, enquanto no hospital público é contratual e extracontratual; e, por último, quer na clínica privada quer no hospital público a responsabilidade é, simultaneamente, contratual e extracontratual18. 15 Não obstante, estes dois tipos de responsabilidade não são totalmente diversos entre si, uma vez que num mesmo caso podem suscitar-se ambas as modalidades, cfr. VARELA, João de Matos Antunes – Das obrigações em Geral, op. cit ., p. 522. 16 Exercendo a sua profissão neste meio o médico atua no quadro de um vasto sistema de saúde pública, designado por serviço nacional de saúde, pelo que a prestação de cuidados de saúde à população assume assim a natureza de atribuição do Estado, importando, neste sentido, ver o conteúdo do artigo 64.º da Constituição da República Portuguesa. 17 No Código Civil, os requisitos e pressupostos dos regimes de responsabilidade contratual e responsabilidade extracontratual encontram-se previstos nos artigos 799.º e 483.º, respetivamente e ainda PEREIRA, André Gonçalo Dias – Direitos dos Pacientes e Responsabilidade Médica. Coimbra: Coimbra Editora, 2015, p. 650. 18 PEREIRA, André Gonçalo Dias - Responsabilidade Civil: o Médico entre o Público e o Privado. Boletim da Faculdade de Direito da Universidade de 14 Contudo, independentemente da feição contratual estabelecida entre as partes, a relação entre médico-paciente desde há muito tempo que se vem assumindo como uma mera obrigação de meios nos casos de prestação de cuidados médicos19, que se traduz numa obrigação de diligência e cuidado. Neste ensejo, a título de contextualização, a presente diferenciação entre a obrigação de meios e de resultados teve a sua origem na França, operada por DEMOGUE20, a propósito do Code Civile francês, uma vez que este civilista tentou superar a colisão entre duas normas do Código Civil Francês relativas à responsabilidade do devedor pelo não cumprimento, designadamente, os artigos 1147.º CC e 1137.º do CC Francês. Desde logo, no que concerne ao primeiro artigo elencado, neste, o devedor responderia pelos danos causados se efetivamente provasse a existência de uma causa estranha e, por outro lado, no segundo artigo referido, o devedor não responderia se não se provasse a existência de culpa nos casos em que a obrigação fosse de conservação da coisa, ou seja, o devedor não responderia pelos danos, salvo se provasse que não atuou com a diligência devida, de acordo com “un bon père de famille”. No entanto, devido à questão pertinente colocada relativa à feição assumida no âmbito da relação médico-paciente, perante a análise do artigo 1154.º do Código Civil sobre o contrato de prestação de serviços, parece-nos apontar, prima facie , para uma obrigação de resultado, uma vez que nesse artigo encontram-se contidas as palavras “certo resultado”. Contudo, para que se perceba o alcance do referido artigo importa contrapor com o artigo relativo ao contrato de trabalho cuja definição encontramos no artigo 1152.º do Código do Trabalho. Deste modo, é percetível que a expressão “certo resultado” contida no artigo relativo ao contrato de prestação de serviços sugere uma ideia de autonomia do prestador de serviços, contrariamente ao que sucede e consta no artigo que classifica o contrato de trabalho, que o sujeito o trabalhador dependente à “autoridade e direção” do patrono21. Neste sentido, genericamente, a obrigação de meios (ou obrigação de pura diligência, como também é conhecida), prende-se com os casos em que o devedor se obriga a levar a cabo uma conduta diligente, que tendencialmente originará o resultado pretendido, não assegurando, porém, que o mesmo se produza. Por isso, a relação médico-paciente, assume-se como uma obrigação de meios, que Coimbra . Vol. 89 (2013), pp. 253-304. 19 Numa sentença datada de 20 de Maio de 1936 da Cour de Cassation fazia referência à obrigação de meios do médico. 20 DOMOGUE, René - Traité des obligations en général, Vol. I. Paris: Librarie Arthur Rousseau, 1921, pp. 538-544, onde refere as “obligation de moyen” e “obligation de résultat”. 21 LIMA, Pires de; VARELA, Antunes - Código Civil: Anotado. 4.ª edição, vol. II. Coimbra: Coimbra Editora, 1987. ISBN: 9789723200379, p. 783. 21 jurídica da Administração40. Nesta última hipótese devem-se incluir “os atos médicos praticados em estabelecimentos públicos de saúde: não são actos juridicos, mas actos técnicos no exercício de uma determinada profissão de acordo com as prescrições de certa ciência ou arte”41. A jurisprudência tem vindo a definir o ato médico como um “ato executado por um profissional de saúde que consiste numa avaliação diagnóstica, prognóstica ou de prescrição e execução de medidas terapêuticas”42. No que concerne ao critério profissional, é o ato médico o ato praticado por um profissional de saúde que consiste numa avaliação diagnóstica, prognóstica ou execução de terapias adequados ao caso concreto, por força do “titulo habilitante” que lhe permite exercer a profissão de médico43. O segundo critério mencionado respeita às legis artis ou regras da arte médico, que merece cuidadosa análise. Este conceito ganhou grande âmbito com a ratificação da Convenção sobre os Direitos Humanos e a Biomedicina, cujo artigo 4.º prevê o valor jurídico das normas técnicas e obrigações profissionais emanadas pela ciência (bio)médica44. Anteriormente, não eram mais do que um conjunto de regras constantes no Estatuto da Ordem dos Médicos45, Estatuto do Médico46, Código Deontológico da Ordem dos Médicos47, bem como em leis especificas que regulam os ensaios clínicos48, procriação medicamente assistida (PMA)49, exposição a radiações50. Neste ensejo, cumpre-nos explicar o que se entende por leges artis ad hoc medicinae. Neste ensejo, melhor explica ISA ANTÓNIO que entende consistir no “conjunto de normas pelas quais o profissional de saúde se deverá orientar no desenvolvimento da sua atividade”, sendo certo que estão adstritas a fatores que influenciam essa mesma atividade. Entendendo, porém, que as leges artis ad hoc medicinae podem ser entidades enquanto critério valorativo de correção de um ato médico na medida em que atenta em especificidades como a profissão, o autor, a 40 AMARAL, Diogo Freitas do - Natureza da Responsabilidade Civil por Actos Médicos Praticados em Estabelecimentos Públicos de Saúde . In Direito da Saúde e Bioética . Lisboa: AAFDL, 1991, pp. 121 e ss. 41 AMARAL, Diogo Freitas do - Natureza da Responsabilidade Civil por Actos Médicos Praticados em Estabelecimentos Públicos de Saúde , op. Cit., pp. 124-126. 42 Ac. do STJ, datado de 04-03-2008, Proc. n.º 08A183, Relator: Fonseca Ramos, disponível para consulta em:http://www.dgsi.pt/jstj.nsf/954f0ce6ad9dd8b980256b5f003fa814/46ae68362fd8d6148025740200424479?OpenDocument (consultado em 02/06/2023). 43 MARTINEZ-CALCERRADA, Luiz [et. al] - Derecho médico – Tratado de Derecho Sanitário, Tomo I. Madrid: Colex, 2001. ISBN 9788478796267. 44 PEREIRA, André Gonçalo Dias – As declarações de responsabilidade no setor da saúde. A independência das ordens profissionais (re)pensar o direito administrativo. N. º35. p. 16, disponível para consulta em https://historia.oa.pt/wp-content/uploads/2022/12/B-OA-n.o-35-FINAL-PPUBLICACAO.pdf (consultada em 02/06/2023). 45 DL n.º 282/77, de 05 de Julho, que aprova o nova Estatuto da Ordem dos Médicos, instituído pelo Decreto-Lei n.º 29171, de 24 de Novembro de 1938. 46 DL n. 373/79, de 8 de Setembro, que aprova o Estatuto do Médico aplicável a todos os médicos dos serviços públicos. 47 Cf. artigo 9.º Código Deontológico da Ordem dos Médicos. 48 Lei n.º 21/2014, de 16 de abril, que aprova o regime jurídico aplicável à realização de ensaios clínicos com medicamentos de uso humano. 49 Lei n. 32/06, de 26 de Julho, que regula a utilização de técnicas de procriação medicamente assistida (PMA). 50 DL n. 348/89, de 12 de Outubro, que estabelece normas e diretivas de proteção contra as radiações ionizantes. 22 complexidade de atividade e especialidade, bem como outros fatores relacionados com o paciente, organização hospitalar e sanitária, entre outros51. Neste ensejo, ainda que as regras do cuidado cristalizadas nas ‘leges artis medicinae’ sejam primariamente consideradas enquanto regras de cuidado, na medida em que visam acautelar e defender os bens jurídicos que a ordem penal considera relevantes, explica FARIA COSTA que “As ‘ leges artis’ não podem nem devem ser vistas e valoradas ao nível de uma mera regra de cuidado, por exemplo do direito rodoviário. Dever de cuidado nas palavras de CAVALEIRO FERREIRA “assenta, antes de mais, na prudência, pois a prudência é o modo racional de agir, a recta ratio aibilium”52. Assim, o dever objetivo de cuidado é aquele dever que é especialmente resistente às generalizações, isto é, é uma exigência de comportamento que o direito faz, no caso concreto, para salvar aquele bem jurídico. Para este dever são, assim, relevantes as legis artis (métodos e procedimentos, comprovados pela ciência médica, que dão corpo a standard contextualizados de atuac!ão, aplicáveis aos diferentes casos clínicos, por serem considerados pela comunidade cientifica, como os mais adequados e eficazes53), sendo que se houver cumprimento das mesmas, haverá% consequentemente também o cumprimento do dever objetivo de cuidado, e vice-versa. Assim, o conceito de legis artis impõe que o médico atue, cumprindo com as técnicas, utilizando os meios que a ciência descreva como mais indicados para o tratamento da patologia em causa, designadas como legis artis ou regras de arte, com a diligência especifica de um médico médio, tendo em conta os meios que estão ao seu alcance naquele momento e lugar, bem como atendendo aos conhecimentos técnicos adquiridos no decorrer da sua formação. Neste sentido, o Tribunal da Relação de Lisboa referiu que “o médico médio será aquele que se rege pelo mesmo padrão de conduta pelo qual se rege o médico sensato, razoável e competente”54. E ainda, por assim ser, a doutrina vem afirmando que: “No campo da responsabilidade civil médica, o médico deve atuar de acordo com o cuidado, a perícia e os conhecimentos 51 ANTÓNIO, Isa - A responsabilidade da Administrac!ão Pública por atos médicos. Universidade Católica do Porto, 2008, p.95 (dissertação de Mestrado). 52 FERREIRA, Manuel Cavaleiro de - Direito Penal Português (parte geral), Vol. I. Lisboa: Verbo, 1981, ISBN: 9789722201360, p. 515. 53 Ac. do TCAS, datado de 21-11-2013, Proc. No 09361/12, Relator Paulo Pereira Gouveia, disponível para consulta em em: http://www.dgsi.pt/jtca.nsf/170589492546a7fb802575c3004c6d7d/8a5b8cabd913b3ff80257c2f00379d68?OpenDocument&Highlight=0,093 61%2F12 (consultado em 28/05/2023). 54 Ac. do TRL, datado de 10-01-2012, Proc. n.º 1585/06.3TCSNT.L1-1, Relator Rui Vouga, disponível para consulta em: http://www.dgsi.pt/jtrl.nsf/33182fc732316039802565fa00497eec/6463449d08f9477d80257989003ce07b?OpenDocument&Highlight=0,15 85%2F06.3TCSNT.L1-1 (consultado em 28/05/2023). 23 compatíveis com os padrões por que se regem os médicos, sensatos, razoáveis e competentes do seu tempo (...) [exigindo-se-lhe] que atue com aquele grau de cuidado e competência que é razoável esperar de um profissional do mesmo ‘ofício’ (especialista ou não especialista), agindo em semelhantes circunstâncias”55. Resta ainda acrescentar que a violação às legis artis tanto pode ser cometida em qualquer modalidade de dolo56 - que implica, necessariamente, a violação do dever objetivo de cuidado57 -, sendo mais frequente na modalidade de dolo eventual, mas também pode ser cometida no âmbito da negligência. Do ponto de vista prático o processo de responsabilização civil inicia-se com uma queixa efetuada pelo doente lesado e/ou seus familiares e passará forçosamente por fases distintas, designadamente a confirmação e caraterização do dano58, a definição e caraterização da conduta médica da qual resultou o dano e o apuramento se essa conduta observou ou não a legis artis, apurar o nexo de causalidade entre a conduta e as consequências, o apuramento do elemento subjetivo e se o seu comportamento não foi de acordo com a legis artis , e, por último, mas não menos importante, se a responsabilidade deverá ser considerada individual ou solidária. Finalmente, cabe a palavra final ao juiz, depois de ouvidos os pareceres dos técnicos, das testemunhas, do(s) arguido(s), ofendido(s) e/ou assistente(s), vai avaliar e decidir sobre se houve, ou não, infração às legis artis. Assim, um médico cujo comportamento se revele imprudente, negligente, desatento e que não observe os regulamentos59 a que se encontra adstrito afasta-se injustificadamente do comportamento que deveria adotar face à obrigação a que se propôs perante o paciente e, por isso, considera-se faltosa a intervenção médica, dado não ser conforme com a legis artis , consequentemente, agirá o médico com negligência quando por imperícia agiu em desacordo com a legis artis , podendo este comportamento ser ativo ou passivo. Portanto, o ato médico estará eivado de ilicitude quando verificada a inobservância das legis artis , mas também das normas legais, regulamentares ou estatutárias, cumuladas com um resultado nefasto no quadro clínico do paciente. 55 DIAS, João Álvaro – Culpa medica - algumas ideias-força . Revista Portuguesa do Dano Corporal . Coimbra. ISSN 1647-8630. Número.º5, ano 4 (1995) pp. 21-22; 56 CARVALHO, Américo Taipa de - Direito Penal, Parte Geral. 2ª.ed. Coimbra: Coimbra Editora, 2008, ISBN: 9789723223002, pp. 529-530. 57 O dever de cuidado, enquanto conceito a que todos os profissionais médicos estão obrigados, encontra-se estabelecido no art.º 15 do Código Penal. 58 O dano pode revestir várias modalidades, mormente pode tratar-se de um dano patrimonial ou não patrimonial. 59 PINA, Esperança José António Rebocho - A Responsabilidade dos Médicos. 3ªed..Lisboa: Lidel, 2003, ISBN: 9789727571956, p. 117. 24 3.1. O desvio às legis artis : o erro médico A Medicina sempre procurou privilegiar e valorizar a singularidade e a determinação na arte de cuidar o doente, vista, portanto, como uma “varinha mágica”, que visa assegurar o inalcançável infinito que, atendendo sobretudo às evoluções tecnológicas, os cidadãos comuns ansiosamente almejam alcançar e que, paulatinamente, tem mudado a consciência das pessoas que compõem a sociedade. Atualmente, exige-se a intervenção dos médicos em defesa de valores imprescindíveis como a liberdade, a vida e integridade física, deixando o médico de estar imune à critica e à responsabilidade60, como anteriormente vimos estarem. Cumpre-nos, previamente, distinguir dois conceitos, designadamente, ato médico e erro médico. Como melhor explica ISA ANTÓNIO, ato médico pode ser definido enquanto “toda a atuação direta ou indireta sobre um organismo humano por parte de um médico (ou equipa de médicos), no exercício da sua profissão, para a qual tem o devido título académico de licenciado em medicina e cirurgia”. Por outro lado, erro médico prende-se essencialmente com algum tipo de desconformidade, quer seja por ação ou por omissão, por meio da violação das legis artis ad hoc medicinae, enquanto normas que se impõe como mais adequadas segundo a medicina e a ciência61. Contrariamente ao que acontecia na época do paternalismo médico, atualmente não existe a relação de grande proximidade entre médico e paciente que caracteriza aquela época. Nos dias de hoje, quando recorremos a um hospital público não conhecemos previamente o médico e constata-se que, devido ao elevado volume de trabalho, os médicos estão mais sujeitos a cometer erros, uma vez que inexiste o cuidado que anteriormente se sentia no diagnóstico, inexiste também um acompanhamento e diálogo com o paciente, o que consequentemente pode “aumentar o risco de situações de erro médico”62. Perante isto, os médicos tendem a adotar uma medicina mais defensiva que ANDRÉ GONÇALO DIAS PEREIRA define como “práticas médicas realizadas apenas com o objetivo de evitar 60 PEREIRA, André Gonçalo Dias - Direitos dos pacientes e responsabilidade médica. Coimbra: [s.n.], 2014. Disponível para consulta em: http://hdl.handle.net/10316/31524, p. 27 (tese de doutoramento). 61 ANTÓNIO, Isa – Os cuidados de saúde transfronteiriços: problemática em torno do “erro médico”. UNIO – EU Law Journal . Braga: Escola de Direito da Universidade do Minho. ISSN 2183-3435. Vol. 2, n. º2 (Junho de 2016), pp. 171-182. Disponível para consulta em: https://revistas.uminho.pt/index.php/unio/article/download/305/307/595 (consultado em 29/05/2023). 62 AMORIM, Ana - A responsabilidade do médico enquanto perito. Lisboa: Petrony Editora, 2019. ISBN: 9789726852735, p. 118. 25 ações de responsabilidade por má prática ou com o fim de conseguir uma defesa no caso de uma ação ser proposta. Trata-se, portanto, do conjunto de práticas médicas que visa evitar a possibilidade de ações de responsabilidade médica”63. ÁLVARO RODRIGUES a propósito deste tema refere que “o erro é uma realidade conatural ao próprio exercício da medicina, uma vez que todo o erro é inerente à atividade humana”. Acrescenta este autor que o erro existe com um desígnio, isto é, para se retirar conclusões e se tentar evitar/corrigir futuras situac!ões de erros semelhantes, desde logo, porque, segundo a máxima “ sed diabolicum preseverare ”, será diabólico persistir, constantemente, no mesmo erro64. Nas palavras de GERMANO DE SOUSA, erro médico é concretamente a “conduta profissional inadequada resultante de utilização de uma técnica médica ou terapêutica incorretas que se revelam lesivas para a saúde ou vida do doente”65. Neste ensejo, este Autor procede à distinção entre o erro médico culposo do erro resultante de acidente imprevisível, consequência do chamado caso fortuito capaz de ser previsto ou evitado. Em todo o caso, importa ter presente que pode tratar-se quer de um erro de perceção (exemplo, erro de diagnóstico) ou de um do erro de execução (como é o caso do manuseamento indevido de instrumentos na realização de um ato clínico ou a troca de fármacos).66 Neste domínio, também JOSÉ FRAGATA e LUÍS MARTINS ensinam que o erro médico é entendido como “uma falha, não intencional, de realização de uma sequência de actividades físicas ou mentais, previamente planeadas, e que assim falham em atingir o resultado esperado. Sempre que essa falha se não deva à intervenção do acaso” 67. Igualmente neste sentido, ISA ANTÓNIO caracteriza o erro médico, bem como as modalidades do mesmo, considerando que relativamente às modalidades do erro médico, apresentam-se como uma panóplia variada “em função da natureza, do agente causador, dos lesados, do momento de surgimento do dano e das formas de ‘concretização’ desse erro”68. Por último, e como muito bem alerta o Juiz Conselheiro ÁLVARO RODRIGUES, o “aspecto essencial do erro médico é a falta de consciência (focal ou marginal) do mesmo, pelo agente, pelo 63 PEREIRA, André Gonçalo Dias - Direitos dos Pacientes e Responsabilidade Médica, op. cit., p. 93. 64 RODRIGUES, Álvaro da Cunha Gomes - Responsabilidade Civil por Erro Médico: Esclarecimento/ / Consentimento do Doente. Data Venia . ISSN 2182-6242. Ano 1, N.º01 (Julho-Dezembro de 2012), disponível para consulta em https://www.datavenia.pt/ficheiros/pdf/datavenia01.pdf (consultado em 29/05/2023). 65 SOUSA, Germano de apud RODRIGUES, Álvaro da Cunha - Responsabilidade Médica em Direito Penal (Estudo dos Pressupostos Sistemáticos). Coimbra: Almedina, 2007. ISBN: 9789724031002, p. 291. 66 SOUSA, Germano de – Negligência e Erro Médico . Boletim da Ordem dos Advogados. Lisboa. Número 6, pp. 12-14. 67 FRAGATA, José e MARTINS, Luís apud RODRIGUES, Álvaro da Cunha - Responsabilidade Civil por Erro Médico: Esclarecimento/ Consentimento do Doente, in Data Venia . ISSN 2182-8242, Ano 1, n.º 01, Julho - Dezembro 2012, pp. 8 e 9. 68 ANTÓNIO, Isa - A responsabilidade médica e o advento da mediação no setor da saúde. In Direito à saúde: dilemas atuais. Lisboa: Juruá editorial. 2017. ISBN 9789897124143, pp. 217-246 26 menos até ao momento em que é praticado, o que, todavia, não significa a ausência da sua previsibilidade abstracta”69. Assim, perante os considerandos expressos, poder-se-á depreender pela dificuldade de encontrar na doutrina uma definição uniforme de erro médico, ainda que as existentes convirjam no mesmo ensinamento, visto que, de uma maneira geral, o erro médico é definido como a conduta profissional inadequada, resultante de utilização de má técnica terapêutica e/ou médica incorreta. Neste sentido, a jurisprudência dos nossos Tribunais Superiores tem reiteradamente afirmado que um erro médico capaz de desencadear os mecanismos indemnizatórios terá de ser aferido em função da forma como os profissionais agiram no caso concreto, e nunca aferido em função do resultado. Ou seja, terá de se apurar se o ilícito resultou da falta de cuidado, ponderação, uso de meios e conhecimentos técnicos e científicos que eram exigíveis. A titulo de curiosidade e para que melhor se perceba a dimensão da problemática do erro médico, visto o erro médico ser muito mais frequente do que aquilo que se pensava, por conseguinte, apraz-nos citar uma frase presente numa obra publicada nos Estados Unidos em 2000: “ xperts estimate that as many as 98,000 people die in any given year from medical errors that occur in hospitals. That's more than die from motor vehicle accidents, breast cancer, or AIDS” 70 . Neste estudo, realizado em 1999, pelo Institute of Medicine (IOM) dos Estados Unidos o erro medico aparece entre a oitava maior causa de morte naquele país, superando casos de acidente de viação, cancro da mama e SIDA. Neste sentido, existe alguma confusão com a utilização das expressões tão distintas como é o caso do erro médico, a negligência médica, o advento adverso e a chamada violação da legis artis. No concerne ao conceito de negligência médica encontra-se intrinsecamente ligado ao conceito de legis artis que supra se abordou, sendo certo que negligência, em termos sintéticos, implica deixar de fazer o que a legis artis impunha que se fizesse, agindo, por isso, com culpa ou negligência (cumprindo defeituosamente a obrigação) o médico que, perante as circunstâncias concretas do caso, e face às legis artis , tenha ameaçado ou lesado de modo irreversível o direito do paciente à vida ou à integridade física e psíquica do paciente, tendo, por isso, lugar sempre 69 RODRIGUES, Álvaro - Responsabilidade Civil por Erro Médico: Esclarecimento/Consentimento do Doente , op. cit., p. 12. 70 Obra publicada pelo Institute of Medicine intitulada “To Err is Human: Building a Safer Health System” que constitui um relatório apresentado pelo Committee on Quality of Health Care in America, da autoria de três investigadoras. 22 SCHMIDT, EBERHARD, Der Artz im Strafrecht, Leipzig, 1939, p. 138. 27 que por indesculpável falta de cuidado seu, o médico deixa de aplicar os conhecimentos científicos e os procedimentos técnicos que, razoavelmente, lhe eram de exigir, em função da sua qualidade profissional71. Note-se, contudo, que muitos erros podem ocorrer sem que estejam reunidas condições para a negligência, como por exemplo, o caso de um puro erro de diagnóstico. Nestes casos, apesar de o médico se ter obrigado a fornecer ao seu paciente a assistência médica necessária à prevenção, cura, recuperação e ambiciosamente o prolongamento da vida de cada um, empregando os seus conhecimentos técnicos adequados e disponíveis, pode ter interpretado mal os sintomas e até errado nas conclusões e terapia, mas não ter violado qualquer dever de cuidado, se tiver, claramente, solicitado todos os exames que o caso exigia. Assim, o efeito adverso que pode advir de um ato médico pretende exprimir toda a ocorrência negativa sobrevinda para além da vontade do médico, que acaba por causar algum tipo de dano ao referido cidadão, pelo que, em sede judicial, tem de ser provada a imperícia na arte da técnica para se confirmar efetivamente o erro médico. Em sede judicial e no caso de violação de legis artis deve o ofendido indicar concretamente quais os procedimentos médicos ou atos médicos que foram realizados de forma anómala, atento o quadro clinico do doente, devendo, para o efeito, o ofendido, indicar que consequências negativas foram sofridas pelo mesmo em consequência direta e necessários dos alegados irregulares tratamentos ou atos médicos e, simultaneamente, indicar os meios de prova em que se sustenta para fundamentar tal conclusão, como se pode ver referido no Acórdão do Tribunal da Relação de Lisboa72. Porquanto, o erro médico só existe quando o médico viola, cumulativamente, a leges artis e o dever de cuidado que lhe cabe e pode ser cometido por imperícia, imprudência e negligência ao deixar de fazer o que a leges artis impunha que se fizesse. 4. Tipologias de atos médicos A Lei de Bases da Saúde tem por objetivo definir um quadro jurídico de referência onde estão contidos valores e princípios que asseguram a proteção e promoção da saúde das pessoas 71 Ac. do STJ, datado de 25-02-2015, Proc. nº 804/03.2TAALM.L.S1, Relator Armindo Monteiro, disponível para consulta em http://www.dgsi.pt/jstj.nsf/-/1ECB2E3A863FC82880257DF90039F5EA (consultado em 28/05/2023). 72 Ac. do TRL, datado de 24-10-2018, Proc. n.º 830/14.6T9BRR.L1-3, Relatora Ana Paula Grandvaux, disponível para consulta em http://www.dgsi.pt/jtrl.nsf/33182fc732316039802565fa00497eec/65a6d033a7579be58025838500309f29?OpenDocument&Highlight=0,83 0 (consultado em 28/05/2023). 28 e das famílias, cumprindo os princípios constitucionais em que se afirma o primado da dignidade da pessoa humana. Neste sentido, nos anos noventa, a Lei de Bases da Saúde (Lei 48/90 de 24 de Agosto, entretanto revogada), na sua base XXXII, n. º2, referiu que “é definido por lei o conceito de ato médico”. Nessa sequência, em 1999 foi aprovado na Assembleia da República o projeto-lei que definia o conceito de Ato Médico, que acabou por não ser publicado. Por isso, e a verdade é que os Deputados da República não aprovaram uma lei que definisse o conceito de Ato Médico, sentindo, por isso, a doutrina e a jurisprudência, necessidade de esclarecer o que se entende por ato médico. Por conseguinte, definiram o que seriam as boas práticas médicas, comummente designadas por legis artis, enquanto conjunto de regras ou procedimento aplicáveis a situações semelhantes, embora sem nunca perderem de vista o caso concreto, constituindo na sua maioria regras não escritas73. Em Setembro de 2019, finalmente, através do Regulamento n.º 698/2019 da Ordem dos Médicos, são definidos os atos próprios dos médicos e a sua responsabilidade, autonomia e limite, tendo sido reduzida a escrito uma norma legal que define ato médico, devidamente preceituada no artigo 6.º, n. º1 do referido diploma. PEDRO RODRIGUEZ74, considera que a atividade do médico engloba diferentes tipos de ato, nomeadamente, atos de prevenção, que visam adotar as medidas necessárias para evitar que a doença se verifique; Atos de diagnóstico, com vista a determinar a natureza e origem da doença do paciente, que se verificou dos exames e analises clínicas; atos de prescrição, os quais têm por missão determinar a terapêutica que o paciente deve seguir, após a realização do seu diagnóstico; Atos de tratamento, que se traduzem na execução de medidas idóneas à cura ou melhora do doente; Atos de reabilitação, que supõem todo um conjunto de ações dirigidos ao restabelecimento do paciente (órgão membro) ao seu estado saudável; e, por último, outros atos médicos. No que concerne à tipologia dos atos médicos, colhemos, para o efeito, a perspetiva espanhola que subdividiu os atos médicos enquanto atos médicos corporais e extracorporais. Quanto aos primeiros subdividem-se, ainda, entre atos médicos corporais diretos e indiretos: diretos porque visam de uma forma direta a cura do doente, nomeadamente, o diagnóstico, tratamento e recuperação; e ainda, atos corporais indiretos, que ao invés de procurar alcançar a cura visam preservar a saúde, incluindo-se neste catálogo, a realização correta de autópsias e 73 Ac. do STA, datado de 13-02-2012, Proc. n.º 0477/11; Ac. do TRL, datado de 16/12/2015, Proc. n.º 1490/09.1TAPTM.LI-3, todos disponíveis para consulta em www.dgsi.pt. 74 Apud, ibidem , p. 98. 29 ecografias, etc. No que concerne aos atos médicos extracorporais, traduzem-se estes, por sua vez, em pesquisas científicas, ensaios clínicos, entre outros cujo ato não implique uma intervenção direta no corpo, como melhor ensina ISA ANTÓNIO75. 5. Modalidades de responsabilidade médica e seus pressupostos: análise da LRCEE76 Responsabilidade em sentido lato significa “obrigação de responder pelas ações próprias, pelas dos outros ou pelas coisas confiadas”77. A responsabilidade extracontratual por atos de gestão pública nasce de dois fundamentos78, designadamente, um subjetivo e um objetivo. O primeiro prende-se com a administração que, na sua atuação, está vinculada e adstrita ao respeito pelos direitos fundamentais dos particulares, conforme prevê o artigo 18.º, n.º1 da CRP, bem como o respeito pelas posições jurídicas subjetivas de cada cidadão, conforme consta no artigo 266.º, n.º1 da CRP. Por outro lado, o segundo, que concerne ao aspeto objetivo, prende-se com o parâmetro supremo que é o princípio da legalidade. No âmbito da medicina, o ato médico pode acarretar a responsabilização do agente por diversas vias. No entanto, e sem desprimor da aplicação da responsabilidade penal e disciplinar do médico, quer a título individual, quer a título coletivo da equipa médica, no âmbito da dissertação presente, teceremos considerações apenas sobre a responsabilidade civil, mormente, responsabilidade civil extracontratual, não obstante o regime da responsabilidade civil em hospitais públicos ou em clínicas e/ou consultórios privados ser diverso, pelo que merece o nosso escrutínio. Nesta senda, no que concerne às instituições de saúde públicas e ainda as privadas que hajam celebrado uma relação jurídica de prestação de cuidados de saúde com o doente, aplicarse-á o regime de responsabilidade civil. Assim, uma parte da doutrina entende enquanto instituto jurídico mais adequado a dar resposta aos litígios emergentes de erros médicos o da responsabilidade civil extracontratual. Não obstante, existem outras posic!ões doutrinais, como a 75 ANTÓNIO, Isa – A responsabilidade do Estado por actos médicos: entre a "présomption de faute" francesa e a "objectivização" espanhola – breve resenha comparativa: uma convergência de regimes?. Revista da Faculdade de Direito da Universidade Lusófona do Porto . Porto. ISSN 2182-6994. Vol. 02, n.º 02 (2013), disponível para consulta em http://hdl.handle.net/10437/3473. 76 Lei de Responsabilidade Civil extracontratual do Estado e demais entidades públicas. 77 Porto Editora – Responsabilidade no Dicionário infopédia da Língua Portuguesa [em linha]. Porto: Porto Editora, disponível para consulta em https://www.infopedia.pt/dicionarios/lingua-portuguesa/responsabilidade (consultado em 14/07/2023). 78 SOUSA, Marcelo Rebelo de e MATOS, André Salgado – Direito Administrativo Geral - Atividade Administrativa, Tomo III. 2.Ed. Portugal: D. Quixote, 2009, ISBN: 9789722036290, p. 484. 30 de Sinde Monteiro, que preconizam a responsabilidade civil contratual como sendo o instituto mais apropriado, quer se trate de uma instituic!ão pública ou privada79. O escopo do presente trabalho versa sobre a Responsabilidade no Âmbito Hospitalar Público – como o próprio título indica -, razão pela qual cumpre-nos referir que são os tribunais administrativos competentes para julgar os litígios relativos a hospitais públicos e o diploma aplicável para o efeito é a Lei n.º 67/2007, de 31/12, que aprovou o novo Regime da Responsabilidade Civil Extracontratual do Estado e demais Entidades Públicas. Neste ensejo, cumpre-nos indagar as modalidades de responsabilidade médica, nomeadamente, a responsabilidade subjetiva ou por factos ilícitos e a responsabilidade objetiva. Note-se, porém, antes de passarmos à análise detalhada de ambas as responsabilidades, que na responsabilidade médica, quer a responsabilidade subjetiva, quer a responsabilidade objetiva, coexistem pacificamente. Todavia, contrariamente a outros países80, no nosso sistema a conduta ilícito cometida no seio hospitalar público poderá, como veremos, ser imputada a título, quer objetivo, quer subjetivo. 5.1 Responsabilidade subjetiva ou por factos ilícitos É pacifico de entender que a presente dissertação pretende circunscrever o nosso estudo à responsabilidade civil dos hospitais e médicos quando o exercício das suas funções se desenvolve no âmbito da função administrativa do Estado, razão pela qual a Lei 67/2007 revela especial interesse para a presente dissertação. Neste ensejo, a Lei 67/2007 prevê requisitos de responsabilidade civil idênticos aos do direito privado, mais especificamente os que estão plasmados no CC, que se consubstanciam em pressupostos cumulativos81, merecedores de análise para uma conveniente compreensão daquilo que singularmente os caracteriza ou distingue, são estes designadamente: facto, dano, nexo de causalidade, ilicitude e culpa. Note-se que estamos no âmbito da responsabilidade subjetiva, tanto do hospital, como do médico, que se caracteriza pelo facto de o lesante apenas responder pelos danos emergentes da 79 Apud ANTÓNIO, Isa – Os cuidados de saúde transfronteiriços: problemática em torno do “erro médico , op. cit., p. 179. Disponível para consulta em: https://revistas.uminho.pt/index.php/unio/article/view/305 (consultado em 14/07/2023). 80 Como é o caso da Suécia e Nova Zelândia, por exemplo, cujo modelo de responsabilidade é No Fault. 81 Deste modo, basta que não se preencha um deles para cair a responsabilidade extracontratual. Não obstante, a falta de um dos pressupostos não afeta o preenchimento de outros tipos de responsabilidade civil, uma vez que a falta de ilicitude não prejudica que possa haver responsabilidade pelo risco ou por factos lícitos. 37 na lei, conforme refere o artigo 483.º, n.º 2 do C.C. Neste sentido, a lei prevê as seguintes situações específicas de responsabilidade objetiva aplicáveis à atividade médica: casos de realização de ensaios clínicos com medicamentos de uso humano, nos termos do artigo 15.º, n.º1 da Lei n.º 46/200462109, nos casos de doação de órgãos entre vivos, nos termos do artigo 9.º, n.º 2 da Lei n.º 22/200764110; nos casos de responsabilização de um médico, sem culpa, por atos praticados pelos seus auxiliares ou representantes, desde que estes tenham atuado com culpa, quer no âmbito puramente delitual, por força do artigo 500.º do C.C., quer no âmbito de um contrato, por via do artigo 800.º do C.C.65111; os casos de responsabilidade do Estado e das demais pessoas coletivas de direito público, nos termos do artigo 11.º da Lei n.º 67/2007. Assim, na responsabilidade pelo risco estamos perante um funcionamento normal de serviço, pautado por condutas lícitas e diligentes, mas que a atividade em causa faz incorrer em perigos especiais. Pelo que, contrariamente ao que se sucede na responsabilidade subjetiva, nestes casos, os lesados devem ser ressarcidos pelos danos que passarão a suportar na sua esfera jurídica, ainda que não haja lugar a ilicitude ou culpa de quem atuou ou deveria ter atuado112. Outro exemplo em que o médico responde independentemente da culpa refere-se aos casos do artigo 500.º do Código Civil. Para MARCELO REBELO DE SOUSA e ANDRÉ SALGADO MATOS113, o artigo em apreço contém a chamada teoria do risco de autoridade e, indiretamente, as teorias da criação do risco (a responsabilidade pelo risco é afastada sempre que existir culpa do lesado ou de terceiro) e do risco-proveito (isto é, o risco é da pessoa coletiva e não dos seus agentes, pois é criado para a prossecução do interesse público, como atribuição daquela). Por outro lado, há três causas de exclusão da responsabilidade pelo risco, nomeadamente, o caso furtuito, a culpa do lesado e a responsabilidade de terceiro, previstas no artigo 11.º da referida Lei. No que concerne aos danos ressarcíeis na responsabilidade pelo risco, aplica-se um princípio de ressarcimento total dos danos, quer sejam estes patrimoniais ou não patrimoniais114. 109 LEITÃO, Luís Manuel Teles de Menezes - Direito das Obrigações, 11.ª Edição, Vol. I. Coimbra: Almedina, 2014, pp. 375. 110 O n.º 3 deste artigo alude ainda à presunção do nexo de causalidade entre os danos sofridos na saúde do paciente e o ensaio clínico. 111 RAPOSO, Vera Lúcia - Do ato médico ao problema jurídico, 1.ª Edição. Coimbra: Almedina, 2013, ISBN: 9789894000655, p. 31; e PEREIRA, André Gonçalo Dias - Direitos dos Pacientes e Responsabilidade Médica, op. cit., p. 692. 112 AMORIM, Ana - A Responsabilidade do Médico Enquanto Perito, op. cit., p.151; RAPOSO, Vera Lúcia - Do Ato Médico ao Problema Jurídico, op. cit., p. 206. 113 SOUSA, Marcelo Rebelo de e MATOS, André Salgado Matos – Direito Administrativo Geral – Atividade Administrativa, op. cit., p. 504. 114 CADILHA, Carlos – O novo regime de responsabilidade civil do Estado e demais entidades públicas pelo exercício da função administrativa. Revista do Centro Estudos Judiciários . Lisboa. ISSN 1414-008. 1.º Semestre, n.º 11 (2009), p. 10, disponível para consulta em: 38 A lei 67/2007 prevê a chamada indeminização pelo sacrifício115. Como vimos até aqui, o que a responsabilidade objetiva faz é prescindir da averiguação da culpa, pelo que a responsabilidade no decurso de atividade médica somente se relaciona a responsabilidade objetiva em casos excecionais. Contudo, vimos também que nos casos analisados nem sempre o responsável praticou a atividade suscetível de lesar os sujeitos envolvidos. Neste sentido, e de modo a garantir o pagamento aos lesados pelos danos sofridos, a solução proposta pela lei prende-se com a adoção de um seguro obrigatório. Concretamente nos casos acima referidos de responsabilidade objetiva, por exemplo, nos ensaios clínicos, a Lei 46/2004, atribuiu ao promotor do ensaio o ônus de arcar com o seguro obrigatório. Já no âmbito das doações de órgãos e tecidos em vida, a Lei n.º 12/93 impôs aos estabelecimentos hospitalares públicos ou privados, consoante o local da colheita, a obrigação de suportar o seguro obrigatório do doador. Deste modo, os profissionais de saúde que atuam nesta área não fazem pesar sobre eles o encargo de suportar o seguro. Em suma, no que concerne ao seguro obrigatório, este vislumbra ser um mecanismo de proteção que proporciona tranquilidade aos médicos e aos pacientes, uma vez que traz garantias aos pacientes na sua saúde, como também proporciona ao médico uma forma mais tranquila e segura do exercício da sua profissão. Assim, no âmbito da responsabilidade objetiva, a atuação o médico já não será culposo quando, consideradas as circunstâncias em concreto de cada caso, ele não pode ser reprovado ou censurado por ter atuado como atuou. Neste campo, o médico poderá ser chamado a responder mesmo que se trate de um facto natural, de terceiros ou inclusivamente do próprio lesado116. A Medicina vai sempre trabalhar com determinadas incertezas que atingem todos os níveis da profissão, desde o inicio da relação médico-paciente até à escolha do tratamento adequado, não podendo olvidar, porém, que a solução da responsabilidade objetiva, contrariamente à pretérita abordagem de responsabilidade subjetiva, se caracteriza pelo facto de se prescindir da culpa do lesante e, ainda, da ilicitude da sua conduta, motivo pelo qual só aparece em situações de carater excecional, tendo em conta a especifica e peculiar natureza de determinadas atividade. https://www.csm.org.pt/ficheiros/eventos/encontroscsm/06eacsm/6encontrocsm_carloscadilha2.pdf (consultado em 14/04/2023). 115 Artigo 16.º da Lei 67/2007. 116 VARELA, João Antunes - Das Obrigações em Geral, 9.ª edição, Vol. I. Coimbra: Almedina, 1996, ISBN: 9789724009506, pp. 653-739 39 CAPÍTULO II – A INTELIGÊNCIA ARTIFICIAL NA SAÚDE 1. A revolução tecnológica da Inteligência Artificial na saúde O mundo atual vive um período de transformação informacional, caracterizado por uma produção e armazenamento em massa de dados gerados continuamente, surgindo, por isso, novos ambientes de informação e comunicação que proporcionam novas formas de interação social. Neste ensejo, a transposição das características da inteligência humana para processos automatizados desafia inevitavelmente os quadros jurídicos clássicos nas mais diversas áreas, visto que há mais do que suficientes evidencias da mudança de paradigma na existência humana, pelo que carecem de ser acompanhadas pelos humanos. Desde logo, na área da saúde, é flagrante a manifestação da IA, através da existência de robôs médicos e aplicações digitais na área da saúde, especialmente a nível do exercício da prática médica. A título de contextualização, LEMOS entende que poder-se-á dividir a história do desenvolvimento em três grandes fases, nomeadamente: a fase da indiferença, que se prolonga até à idade média, em que a técnica e a ciência não gozavam de um estatuto privilegiado. A segunda fase para este autor trata a fase do conforto, que corresponde à modernidade, onde a ciência substitui a religião no monopólio da verdade, que até então era o epicentro da vida social. E, por último, a fase da ubiquidade, que compreende a época pós-moderna e a própria cibercultura e que se prende com a fase da comunicação e informação digital117. Indiscutível é, por isso, que nos dias de hoje a tecnologia faz parte integrante da vida do homem e da sociedade e, nesse sentido. Nesse sentido, SAMIR CHOPRA e LAURENCE F. WHITE118 “ The artificial agent is here to stay; our task is to accommodate it in a manner that does justice to our interests and its abilities ”. Ora, paulatinamente, a intervenção da IA vem-se imiscuindo no quotidiano do ser humano e, perante esta evolução, assiste-se a uma verdadeira corrida pela supremacia e evolução da IA, assente na premissa de que quem se tornar o líder desta área pode vir a tornar-se o líder do 117 LEMOS, André - Cibercultura: Tecnologia e vida social na cultura contemporânea. Ucrânia: Editora Sulina, 2023. ISBN: 9786557591048, 6557591045. 118 CHOPRA, Samir e WHITE, Laurence F. - A Legal Theory for Autonomous Artificial Agents. Reino Unido, University of Michigan Press, 2011. ISBN: 9780472051458. 40 mundo119 e ainda no qual os robôs podem realizar atividades e adotar comportamentos, tais como, conduzir veículos, desativar bombas, oferecer próteses de membros, fabricar, etc, através de uma inteligência que diminui a margem de erro. Segundo MAFALDA MIRANDA BARBOSA, a realidade encaminha-nos para a existência de máquinas que perante a evolução vivida e indubitavelmente imparável, que desempenham funções que até então eram levadas a cabo pelos seres humanos, aliadas aos avanços da engenharia do cérebro são capazes de originar o surgimento de supercomputadores através dos quais a pessoa poderá manter-se viva para além da própria vida120. No âmbito do Direito Administrativo, nas palavras de ARTUR FLAMÍNIO DA SILVA121, são inúmeras as vantagens reconhecidas na utilização de sistemas de IA, nomeadamente, na Administração. Bem assim, destacando-se, logo num primeiro momento, pela relação manifesta com o princípio da boa administração, a importância da aplicação na atividade administrativa de “critérios de eficiência, economicidade e celeridade”122. Outrossim, MIGUEL PRATA ROQUE, chegou à conclusão de que o recurso a meios tecnológicos provocou uma profunda descaracterização da administração pública tradicional, desde logo por força da substituição de um corpo imenso de funcionários de apoio burocrático, bastando-se, atualmente, com um número reduzido de colaboradores encarregues da supervisão da tecnologia colocada ao serviço do procedimento administrativo. Todavia, desta conclusão, não se poderá extrair imediatamente e sem prévia retrospeção que conduza, necessariamente, à redução do número de funcionários indispensáveis à boa garantia do interesse público, mas, sim, extrair-se desta conclusão uma reorientação dos meios humanos para outras tarefas123. Assim, a tecnologia que, há uns anos, se limitava limitava a uma mera bracelete que permitia contabilizar os passos diários dados por uma pessoa para uma melhor noção e conhecimento do exercício praticado e o do seu – ou não – sedentarismo, atualmente, o software utilizado nos smartwatches, permite monitorizar continuamente os batimentos cardíacos notificando o utilizador caso haja uma irregularidade preocupante no batimento cardíaco do utilizador do smartwatch , através da emissão de um barulho sonoro e/ou acompanhado de uma 119Disponível para consulta em https://www.linkedin.com/pulse/corrida-pela-supremacia-da-ia-e-auditoria-de-algoritmos-diogoramos/?originalSubdomain=pt (consultado em 28/07/2023). 120 BARBOSA, Mafalda Mirada – Inteligência artificial, entre a utopia e a distopia, alguns problemas jurídicos, 1.ª ed. Coimbra: Gestlgal, 2021. ISBN 978-989-8951-82-3, p. 14. 121 SILVA, Artur Flamínio da – Inteligência Artificial e Direito Administrativo, in Direito Administrativo e Tecnologia. 3.ª ed. Coimbra: Almedina, 2023. ISBN 9789894014683, pp. 9-16. 122 Vide o artigo 5.º, n.º 1, do Código do Procedimento Administrativo (CPA). 123 ROQUE, Miguel Prata - O Nascimento da Administrac"ão Eletrónica num Espac"o Transnacional (Breves notas a propósito do projeto de revisão do Código do Procedimento Administrativo). e-Pública. Lisboa. ISSN 2183-184X. N.º 1 (2014), pp. 310 e ss. 41 vibração persistente. Além dos batimentos cardíacos, o software permite ainda controlar o ciclo menstrual, período fértil e analisar a qualidade do sono, emitindo um alerta para o utilizar acordar quando o software considere oportuno. Porquanto, aqui chegados, cumpre-nos tecer considerações sobre a Inteligência Artificial numa área que nos apraz interesse no âmbito da presente dissertação: a saúde e, mais concretamente, o futuro da responsabilidade na saúde com a utilização de Inteligência Artificial. A saúde é, desde logo, configurada como um direito humano e como um direito fundamental124, pelo que se trata de uma área que encerra em si valores e bens jurídicos fundamentais, bem como uma situação de vulnerabilidade, razão pela qual a saúde é um dos domínios privilegiados para o uso da inteligência artificial e para a sua expansão. A crescente necessidade de apoiar a tomada de decisões e melhorar o desempenho de diagnósticos e prognósticos têm contribuído para o crescimento e desenvolvimento da IA na área da saúde125. A pandemia devido ao COVID-19 veio acelerar o processo de digitalização de dados e consequente uso de Inteligência Artificial na área da saúde, sendo certo que a medicina foi identificada desde cedo como uma das áreas mais promissoras para a aplicac!ão de sistemas de IA126. Desde meados do século vinte os investigadores têm vindo a desenvolver sistemas de suporte para facilitar a decisão clínica através de ferramentas que auxiliam no diagnóstico de doenc!as e na escolha do tratamento adequado. Nos últimos anos, a integração da IA e outros tecnologias inovadoras têm desempenhado um papel crucial na melhoria dos serviços de saúde prestados, na precisão dos diagnósticos e promoção de um atendimento mais eficiente, uma vez que se direciona o tratamento em função das características de cada utente. Dessa forma, a visão da medicina de precisão passa por melhorar a rapidez e eficácia dos diagnósticos, evitando a prescrição de terapêuticas desnecessárias, ineficazes e dispendiosas127. A nível económico, isso significará uma utilizac!ão 124 O direito à saúde é proclamado em vários instrumentos universais e regionais de direitos humanos, designadamente, o art.º 25.º, n. º1, da Declaração Universal dos Direitos Humanos, o art.º 12.º do Pacto Internacional dos Direitos Económicos Sociais e Culturais, o art.º 35.º da Carta dos Direitos Fundamentais da União Europeia. Em Portugal, o direito à saúde é consagrado constitucionalmente como direito fundamental, ao abrigo do art. 64.º da Constituição da República Portuguesa, ao qual está inerente a finalidade de equidade no acesso à saúde, dado o carater universal do direito à saúde. 125 GERKE, Sara [et. al.] - Ethical and legal challenges of artificial intelligence - driven healthcare, in BOHR, Adam e MEMARZADEH, Kaveh - Artificial Intelligence in Healthcare. Denmark: Elsevier Inc, 2020. ISBN 978-0-12-818438-7, pp. 295-336. Disponível para consulta em https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7332220/pdf/main.pdf (consultado em 12/10/2023). 126 BOHR, Adam e MEMARZADEH, Kaveh -The rise of artificial intelligence in healthcare applications. In Artificial Intelligence in Healthcare. Denmark: Elsevier, 2020. ISBN 978-0-12-818438pp. 25–60. Disponível para consulta em https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7325854/pdf/main.pdf (consultado em 12/10/2023). 127 FILIPP, Fabian - Opportunities for Artificial Intelligence in Advancing Precision Medicine. Current Genetic Medicine Reports. ISSN 2167-4876. Vol. 11 (2019), pp. 208–213. Disponível para consulta em https://link.springer.com/article/10.1007/s40142-019-00177-4#citeas (consultado em 12/10/2023). 42 racional e eficiente dos recursos disponíveis, diminuindo o desperdício e custos associados com tratamentos ineficazes e respetivos efeitos secundários128. Por essa razão, os profissionais e gestores de saúde portugueses perspetivam a implementação de ferramentas de IA, como aliados ao exercício da profissão, sendo certo, porém, que se importam em compreender quais as principais motivações e preocupações, que é fulcral para perceber de que forma se deve atuar para potenciar a implementação desses sistemas ao longo dos próximos anos129. E neste sentido, concretamente, no que concerne à área da saúde, são inúmeros os exemplos do uso de IA na área, quer a nível virtual, quer a nível físico, nomeadamente, o virtual, na medida em que corresponde à abordagem informática do deep learning para gestão de informação e controlo dos sistemas de saúde, que auxilia nos registos de saúde eletrónicos e permite uma orientação ativa para a tomada de decisões dos médicos nos tratamentos, no sentido de prescreverem com mais eficiência o que melhor se adequam a cada paciente e, por outro lado, o físico que é melhor representado por robôs, que podem assistir o paciente mais idoso ou, no caso mais paradigmático, auxiliar o médico em cirurgias. Há também os nanorobots130, que correspondem a um novo sistema de transporte de medicamentos. Neste ensejo, cumpre-nos enumerar alguns campos onde a IA veio efetivamente revolucionar a área da Saúde: primeiramente, no que concerne aos diagnósticos precisos e rápidos, visto que a IA se tem destacado na interpretação de imagens médicas, como raios-X, ressonâncias magnéticas e tomografias computadorizadas, dado que os algoritmos avançados permitem a deteção precoce de condições médicas e patológicas, promovendo, consequentemente, tratamentos mais eficazes; Em seguida, a IA na prática da saúde permite uma medicina mais personalizada, uma vez que a análise de grandes conjuntos de dados dos pacientes – isto é, big data, como mais tarde teremos oportunidade de estudar – aliada à IA permite a criação de tratamentos personalizados, uma vez que reunirá informações cruciais como informações genéticas e histórico médico que permitiram prescrever um tratamento adaptado às especificas necessidades de cada paciente; A gestão de dados e informações permitirá um acesso mais rápido e eficiente às informações dos pacientes, facilitando a comunicação entre os 128 BOHR, Adam e MEMARZADEH, Kaveh -The rise of artificial intelligence in healthcare applications, op. cit. 129 ASAN, Onur [el. al.] - Artificial Intelligence and Human Trust in Healthcare: Focus on Clinicians. In Journal of Medical Internet Research. Vol. 22, Issue 6 (19 de Junho de 2020). JMIR Publications Inc. Disponível para consulta em https://www.jmir.org/2020/6/e15154/ (consultado em 12/10/2023). 130 Mertz L. Tiny conveyance: Microand nanorobots prepare to advance medicine. IEEE Pulse. 2018, disponível em https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8267517 (consultado em 12/10/2023). 43 profissionais de saúde; A IA veio revolucionar a área da saúde no que diz respeito à prevenção de doenças, na medida em que a IA identifica padrões e tendências em grandes conjuntos de dados, o que facilitará a previsão de surtos de doenças; No que concerne a cirurgias assistidas por robôs é também inegável a revolução trazida à área da saúde, uma vez que a robótica proporciona procedimento mais precisos e menos invasivos, que serão benéficos quer no âmbito da cirurgia, quer no pós-operatório; As aplicações de saúde são também outro fator em que a IA veio revolucionar a medicina, na medida em que existem aplicações cujas funcionalidades são diversas, permitindo o rastreamento de sintomas, bem como lembretes para a medicação não ser esquecida; Por último, cumpre elencar também a impressão 3D trazida pela IA, que em medicina é usada para criar próteses, órgãos artificiais e modelos anatómicos e cuja sua importância é notória quer para fins educacionais, quer cirúrgicos. Porquanto, perante a panóplia de usos benéficos de IA na área da saúde, o maior impacto da IA na saúde será sempre através da personalização, isto é, deixar de ter um diagnóstico ou um tratamento que é feito com base no que resulta com a generalidade, visto que se o foco consistir em personalizar cada solução a cada pessoa, melhor vai ser o impacto do diagnóstico e do tratamento. Noutros campos, a IA veio revelar-se crucial na área da saúde no que concerne ao ensino131, investigação mediante simulações que permitem a testagem de medicamentos e tratamentos sem necessidade de experimentação em animais132, diagnóstico133, análise de big data 134 . No entanto, impõe-se questionar como se tratará a questão da responsabilidade que eventualmente advier de um erro médico através do uso de Inteligência Artificial, sobretudo no que à identidade dos agentes responsáveis diz respeito. Trata-se de uma realidade que reclama e necessariamente obrigará a revisão dos pressupostos da responsabilidade civil, concretamente a culpa, visto que a imputação do dever de indemnizar a um comportamento censurável é matriz da responsabilidade civil, visto que se o agente que praticar o erro médico se tratar de um agente de Inteligência Artificial, questionar-se-á sobre quem recai a culpa, de modo a não existir uma 131 Há poucas décadas apenas era possível que os estudantes reconhecessem um sopro clínico através da auscultação, ou seja, somente com a prática clínica. Atualmente não se concebe, uma vez que através de uma mera pesquisa na Internet, concretamente no Youtube, qualquer pessoa com interesse pode ouvir – quantas vezes for necessário – um sopro cardíaco. 132 PAPPALARDO, Francesco et al. - “In silico clinical trials: concepts and early adoptions”, in Briefings in Bioinformatics, vol. 20, n.º5, 2019, pp. 1699-1708, disponível para consulta em:https://watermark.silverchair.com/bby043.pdf?token=AQECAHi208BE49Ooan9kkhW_Ercy7Dm3ZL_9Cf3qfKAc485ysgAAA0wwggNIBgkqhkiG 9w0BBwagggM5MIIDNQIBADCCAy4GCSqGSIb3DQEHATAeBglghkgBZQMEAS4wEQQM8oncBsup1fKZhle_AgEQgIIC_yP1CVdz3MCAnHpaqwO2LcWm622-Z3AQe92Cymaug2uV9Js (consultado em 25/09/2023). 133 Nomeadamente, no que concerne ao campo da imaologia, pois a IA permite a analise e interpretação de imagens recolhidas por diversos meios, permitindo avanços no diagnóstico. 134 Note-se o destaque de inovação da IA no setor da saúde durante a pandemia COVID-19, utilizando algoritmos para interpretar dados médicos, permitindo uma vigilância epidemiológica. 44 desresponsabilização dos agentes. Do mesmo modo, há outro requisito imperativo de ser abordado no contexto da responsabilidade e que acarreta curiosidade no que toca à responsabilidade que recai sobre um erro fruto do uso de IA: o nexo de causalidade, dado que o anonimato que as novas tecnológicas comportam exigirão, convenientemente, a alteração dos critérios tradicionais, que se prendem na identificação do autor da lesão. Evidentemente, este tema encerra questões cuja pertinência começou já a ser tratada pela Comissão Europeia que publicou no dia 25 de Abril de 2019 um documento de trabalho sobre o tema (Liability for emerging digital technologies – SWD(2018) 137 final). Sinteticamente, e no que importa para a presente dissertação, o documento visou encontrar os desafios que as novas tecnologias colocam à responsabilidade civil, do qual resultaram desafios como: a indagac!ão sobre a bondade da aplicac!ão do conceito de responsabilidade de um vigilante, ou similar, às novas tecnologias, designadamente à inteligência artificial; a decisão sobre se, e em que medida, a possibilidade ou a impossibilidade de evitar o dano interfere com a definic!ão da responsabilidade, considerando, em especial, a autonomia associada às novas tecnologias; a determinac!ão do ónus da prova a respeito da culpa, do defeito ou de outras condic!ões de responsabilidade; a reflexão sobre o alargamento dos danos indemnizáveis aos danos económicos puros e aos danos não patrimoniais; a escolha dos critérios para o exercício do direito de regresso entre os responsáveis; a eventual contratac!ão de um seguro obrigatório de responsabilidade civil, em paralelismo com o regime da utilizac!ão de automóveis135. Assim, a IA encerra em si o potencial para produzir benefícios, bem como malefícios, como mais à frente veremos, pelo que se revela crucial que a IA realize efetivamente o seu imenso potencial benéfico e, simultaneamente, não culmine numa distopia aniquiladora dos nossos valores, em que as potencialidades dessa inteligência se sobreponham ao ser humano. 2. Inteligência artificial: concetualização e tipologias É notória a progressiva incorporação da IA nas mais variadas atividades que o ser humano realiza no seu quotidiano, deixando, assim, de ser uma realidade longínqua. Indiscutivelmente, os 135 ANTUNES, Henrique Sousa – “Inteligência Artificial e Responsabilidade Civil: Enquadramento ”, in Revista de Direito da Responsabilidade. Coimbra. ISSSN 2184-4542. Número 1 (2019). Disponível para consulta em: https://revistadireitoresponsabilidade.pt/2019/inteligencia-artificiale-responsabilidade-civil-enquadramento/ (consultado em 25/07/2023). 45 vestígios destes sistemas inteligentes são cada vez mais vastos e atuam numa panóplia de áreas, não se cingindo apenas a uma ou outra área, e, assim, a IA não é hoje a mera ficção científica que se perspetivava no passado. Por essa razão, cumpre-nos, primeiramente, proceder à análise sobre a evolução da IA, desde o seu nascimento até aos dias de hoje e abordar as tipologias inerentes à mesma. Neste sentido, retrocedamos até ao ano de 1666, visto que foi o ano em que os estudos de inteligência artificial tiveram a sua origem, concretamente quando Gottfried Wilhelm Leibniz publicou a sua Tese de Doutoramento intitulada de “ Dissertac ! ão sobre a arte combinatória ”, na Universidade de Altdorf, em que defendeu que a humanidade um dia iria criar um instrumento capaz de aumentar o sentido de razão numa amplitude muito superior a qualquer instrumento ótico que auxilie a visão dos seres humanos. Argumentando também Leibniz que futuramente seria possível a criação de uma máquina que auxiliasse o Homem nas suas decisões inerentes ao quotidiano.136 Mais tarde, em 1942, Isac Asimov propõe as Três Leis da Robótica, apresentadas pela primeira vez no conto " Runaround ", que passam por um robot não poder ferir um ser humano ou, por inac!ão, permitir que um ser humano sofra algum dano. Um robot deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrem em conflito com a Primeira Lei. Isac Asimov, escritor de ficção científica, visou, assim, estabelecer princípios norteadores para a convivência entre os seres humanos e as máquinas inteligentes. Em 1950 há um importante marco, nomeadamente quando Alan Turing, pioneiro na exploração científica das possibilidades matemáticas da inteligência artificial por meio de um ensaio intitulado “Máquinas Inteligentes”, sugeriu que se conjugassem as informações disponíveis com a razão lógica, promovendo a solução de problemas e colaborando na tomada de decisões. A expressão Inteligência Artificial remonta aos anos 50 do século XX. O termo foi formalmente criado e desenvolvido por JOHN MCCARTHY em 1956137, na conferencia de Dartmouth, que sinaliza o nascimento da Inteligência Artificial, tendo concebido uma linguagem computacional específica para desenvolver aplicações de inteligência artificial o LISP, ou seja, apresentou um projeto sobre a forma de abordar através de máquinas as faculdades cognitivas humanas. Na conferência de Dartmouth de 1956, MCCARTHY juntou um conjunto de cientistas, com o propósito 136 LEIBNIZ, G. W., “Princìpi ed esempi della scienza generale”, Scritti di logica, Milano, Mondadori, 2009, p. 121. 137 ALAKSHMINATH and DR. MUKUNDSARDA - Digital Revolution and Artificial Intelligence - Challenges do Legal Education and Legal Research, CNLU LJ (2) (2011-2012) apud GIRASA, Rosario - Artificial Intelligence and Intellectual Property. Springes International Publishing, 2020. ISBN: 9783030359751. 46 de resolver o problema da IA, tendo, mais tarde, em 1963 sido publicado um influente livro dedicado a IA. Mais tarde, entre 1957 e 1974, a Inteligência Artificial dá os primeiros passos, permitindo e originando que distintas agências governamentais custeassem a pesquisa sobre IA, nomeadamente agências do governo dos Estados Unidos. Numa escala a nível Mundial, entre 1990 e 2000, a IA foi consideravelmente notada, especialmente quando em 1997 o atual campeão mundial de xadrez Gary Kasparov foi derrotado pelo Deep Blue da IBM, que mais não é do que um programa de computador para jogar xadrez138. Mais recentemente não podemos deixar de aludir ao ano de 2005 quando a Boston Dynamics apresentou o robot “ BigDog ” com uma capacidade de deslocação e mobilidade superiores, capaz de se deslocar a locais que os humanos têm bastante dificuldade. Em 2011 a Apple lançou a sua assistente virtual, a Siri, que responde às mais diversificadas questões colocadas pelos humanos. E, ainda, em 2018, ano que marcou o uso da IA em importantes setores da nossa sociedade mais moderna, nomeadamente, no setor automóvel, através da condução autónoma, desenvolvida por empresas coma a TESLA. Neste sentido, dada a introdução progressiva desta forma de inteligência na sociedade, em 2018, a Comissão Europeia, na Comunicação sobre a Inteligência Artificial para a Europa, avançou com a primeira definição de IA: O conceito de inteligência artificial (IA) aplica-se a sistemas que apresentam um comportamento inteligente, analisando o seu ambiente e tomando medidas - com um determinado nível de autonomia - para atingir objetivos específicos. Os sistemas baseados em inteligência artificial podem ser puramente confinados ao software, atuando no mundo virtual (por exemplo, assistentes de voz, programas de análise de imagens, motores de busca, sistemas de reconhecimento facial e de discurso), ou podem ser integrados em dispositivos físicos (por exemplo, robôs avançados, automóveis autónomos, veículos aéreos não tripulados ou aplicações da Internet das coisas).139 Mais recentemente, em abril de 2021, o Parlamento Europeu e o Conselho apresentaram uma Proposta de Regulamento de Inteligência Artificial, tendo em vista a harmonização das regras relativas à utilização da IA no mercado interno e nos diversos setores industriais e sociais, e a atenuação dos perigos inerentes a esta nova forma de inteligência. 138 ANYOHA, Rockwell - “Can Machines Think?” SITN, Harvard University, 2017 apud CUNHA, Gonçalo Batista Ribeiro da – A inteligência Artificial no exercício da função judicial: de juiz humano a juiz robôt, op. cit. 139COM (2018), 237 final. Disponível para consulta em https://www.eumonitor.eu/9353000/1/j4nvke1fm2yd1u0_j9vvik7m1c3gyxp/vknuq8ls10yp/v=s7z/f=/com(2018)237_en.pdf (consultado em 26/07/2023). 53 estudo que dá aos computadores a habilidade de aprender sem terem sido programados para tal ''163. O deep learning , por outro lado, é uma evolução do machine learning, uma vez que se utiliza uma rede neural programável que permite que o software tome decisões autónomas. Ou seja, enquanto o machine learning usa algoritmos para analisar os dados e tomar decisões com base no que aprendeu, o deep learning através da sua estrutura em rede neural consegue aprender e tomar decisões de modo autónomo, sem qualquer auxilio do ser humano. Os algoritmos de machine-learning em que as IAs modernas são comumente produzidas e desenvolvidas, são capazes de aprender através de um volumoso conjunto de dados, sendo que, uma vez que esses dados estão enraizados no sistema da IA, que é autónoma no sentido em que pode tomar decisões individuais sem a direta intervenção do homem, atuando ou operando através dos seus equipamentos automáticos e aprende pelos seus próprios dados e experiência. Robots humanoides (autonomizados; os “ robots cirurgiões”) A ideia de criar máquinas automáticas cuja aparência e atuação se assemelhe a um corpo e ato de um humano e auxilie a atuação destes tem vindo a fascinar a humanidade. Neste sentido, estamos cada vez mais familiarizados com termos como robots humanoides e “ robots cirurgiões”, que consistem em máquinas autónomas que se assemelham à forma humana, normalmente constituído por um tronco com duas pernas, dois braços e uma cabeça. Em 1973, na Universidade de Waseda, em Tóquio, Japão, foi desenvolvido o primeiro robô antropomórfico em grande escala, apelidado de WABOT-1, que era capaz de comunicar com uma pessoa em japonês e medir distâncias e direções para os objetos usando recetores externos, ouvidos e olhos artificiais e uma boca artificial. O WABOT-1 andava com os membros inferiores e era capaz de segurar e transportar objetos com as mãos, que usavam sensores táteis. A partir desta data, muitos outros robôs humanoides foram desenvolvidos e, nos últimos anos, o número de robôs humanoides comerciais cresceu significativamente. Os robôs humanoides são usados em muitas áreas, uma vez que a aparência física destes provoca mais conforto às pessoas para que possa existir interação entre ambos. Ademais, o facto 163 LOCATELLI, Natália – Machine Learning e seu impacto no crescimento de empresas. UNIFOR: 2021. Disponível para consulta em: https://unifor.br/web/empreender/machine-learning-e-seu-impacto-no-crescimento-de-empresas (consultado em 30-09-2023). 54 de os robôs serem constituídos por cabeça, tronco e membros, superiores e inferiores, torna-se igualmente adequado para executar tarefas em ambientes projetados para humanos. Desta forma, os robôs atuais são autênticas máquinas com propósitos especiais, nomeadamente criados para trabalhar em ambientes específicos e resolver tarefas especificas, tendo vindo a ser desenvolvidos para trabalhar com segurança com humanos, através do corpo humanoide, em qualquer ambiente, nas mais diversas áreas, como, pesquisa científica, entretenimento, direito, saúde, fábricas, etc164. Exemplo prático da utilidade dos robôs humanoides na área da saúde é o robô que está a ser usado no Hospital de Santo António do Porto, que nas palavras de AVELINO FRAGA, diretor do serviço de urologia e responsável pelo programa de cirurgia robótica do Centro Hospital Universitário de Santo António165, ao contrário dos humanos, o robô consegue rodar o pulso em 360 graus, aumentando o nível de segurança e concentração, pois o tremor da mão diminui, aumentando, assim, a precisão do cirurgião. Softwares (v.g. de gestão clínica; cirúrgicos) Apesar de só recentemente a computação ter avançado mais no desenvolvimento de softwares de inteligência artificial, o conceito de IA é bastante antigo. Atualmente, diversas aplicações que usam IA foram desenvolvidos. Neste sentido, CHRIS HOWARD166, vice-presidente de pesquisa de uma consultadoria norteamericana de nome Gartner, após uma pesquisa, aponta que o número de empresas que implementaram IA nos seus processos cresceu 270% desde 2016. Segundo HOWARD, em 2012 a implementação de IA era rara, “apenas 10% dos participantes da pesquisa relataram que suas empresas haviam implantado a IA ou o fariam em breve”. Em 2019, esse número aumentou para 37%. Assim, nos dias de hoje, e perante a inegável (re)evolução tecnológica a IA pode ser útil para a criação de um negócio, bem como orientar e auxiliar um negócio já existente, usando, para 164 ASADA, Minoru; MACDORMAN, Karl F.; ISHIGURO, Hiroshi and KUNIYOSHI, Yasuo – “Cognitive developmental robotics as a new paradigm for the design of humanoid robots”, in Robotics and Autonomous Systems, ISSN 0921-8890, Volume 37, 2001, pp. 185–193, disponível para consulta em https://doi.org/10.1016/S0921-8890(01)00157-9 ( (consultado em 01/10/2023). 165 SILVA, Estela – Cirurgias com robot no Hospital de Santo António reduzem infeções e complicações. Diário de Notícias/Lusa . Lisboa. Março de 2023, disponível para consulta em: https://www.dn.pt/sociedade/cirurgias-com-robot-no-hospital-de-santo-antonio-reduzem-infecoes-ecomplicacoes--15952807.html (consultado em 03/10/2023). 166 “Gartner Survey Shows 37 Percent of Organizations Have Implemented Al in Some Form”. Disponível para consulta em https://www.gartner.com/en/newsroom/press-releases/2019-01-21-gartner-survey-shows-37-percent-of-organizations-have (consultado em 09/10/2023). 55 o efeito, diversas tecnologias e ferramentas, nomeadamente, softwares. Um software de IA nada mais é do que um programa utilizado dentro do campo de estudo de Inteligência Artificial, que se prende, resumidamente, numa aplicação que pode ser um sistema que replica a inteligência humana para a resolução de problemas complexos. Existem, assim, softwares de IA relacionados com as mais diversas áreas, nomeadamente, com a área do áudio, que transcrevem ligações telefónicas e áudios de vídeos; com a área da gestão, que entre muitas funções, existem softwares capazes de gerar relatório de dados complexos com maior praticidade para as empresas, bem como outros que autonomizam a revisão de documentos legais, tornando-os mais compreensíveis e úteis aos funcionários; no que concerne à segurança digital, existem vários softwares que visam investigar e identificar facilmente as ameaças digitais, evitando ataques cibernéticos, existindo ainda muitos mais softwares do que os elencados para as mais diversas áreas. 3. A experiência comparada da utilização da IA na saúde: benefícios e problemas detetados Como vimos, é incontornável a progressiva incorporação da IA. De facto, a área da saúde não ficou indiferente a este fenómeno, procurando conciliar o melhor dos dois mundos, promovendo, com a utilização da IA, uma melhor qualidade na prestação de cuidados de saúde a custos mais reduzidos. Por essa razão, na medicina, o impacto da inteligência artificial gera muita esperança e entusiasmo devido aos seus potenciais benefícios. Um fluxo de trabalho melhor e mais organizado permitiria que médicos com a auxílio das aplicações com IA compensassem as suas diferentes e complementares deficiências de forma a aumentarem a segurança do doente e a eficiência clínica. INÊS MARGARIDO refere que “o impacto da IA na área da saúde pode verificar-se em três níveis: para os profissionais de saúde, predominantemente por potenciar uma interpretação de imagens mais rápida e precisa; para o sistema de saúde, melhorando o fluxo de trabalho e reduzir o erro médico; e para o paciente, permitindo-lhes o processamento da sua própria informação para promover saúde”167. Assim, e uma vez que a procura e o uso da robótica nas plataformas médicas e cirúrgicas crescem vertiginosamente, também o aumento da utilização de robôs em cirurgias assistidas 167 MARGARIDO, Inês Tomás Marques Martins – A medicina do futuro nos dias de hoje: Aplicação da Inteligência Artificial. Lisboa: Universidade de Lisboa. Março de 2020. Disponível para consulta em https://repositorio.ul.pt/bitstream/10451/46808/1/InesTMargarido.pdf (consultado em 03/10/2023), (Trabalho Final Mestrado Integrado em Medicina). 56 permitiu uma maior integração da tecnologia moderna com a medicina. Exemplo paradigmático é a laparoscopia, que tem vindo a tornar-se cada vez menos invasiva devido aos procedimentos robóticos, que permitem uma diminuição das cicatrizes, e o tempo de hospitalização dos doentes168. Outro exemplo interessante é o uso de robôs helicoidais que eliminam um coágulo sanguíneo, através de uma fricção mecânica, guiados por ultrassom169. De todo o modo, pesa embora estes exemplos consigam persuadir-nos sobre o potencial e excelente desempenho dos robôs nestas cirurgias, urge não esquecer que outros trabalhos são melhor exercidos por humanos. Neste ensejo, cumpre-nos referir que a IA comporta também algumas limitações e desafios na área da saúde, mormente em matéria de desigualdade e não discriminação. Neste sentido, a Organização Mundial de Saúde elenca como uma das prioridades urgentes para esta década, precisamente, “tornar os cuidados de saúde mais justos”170. Ademais, a aplicação robusta de IA pode reduzir a eficácia clínica e causar erros médicos adicionais, atento a ausência de clareza e transparência acerca da forma como estes algoritmos chegam às suas conclusões e, perante tais erros, questionar-se-á sobre quem recai a responsabilidade.171 Concretamente, para que se percebam algumas limitações inerentes à utilização de sistemas dotados de IA, ANDREW NG172 enumera alguns problemas detetados, nomeadamente, um gerador de respostas automáticas a e-mails criou a resposta “amo-te” a um colega de trabalho; um robot de recolha de pec!as automóveis agarrou e matou um homem; um programa de software de identificac!ão de imagens classificou pessoas negras como gorilas; uma aplicac!ão médica classificou doentes com asma como tendo um menor risco de morrerem de pneumonia; um software de filtragem de conteúdos para adultos não conseguiu remover totalmente o conteúdo inapropriado, expondo crianc!as a conteúdos sexuais e violentos, entre muitos outros exemplos. E ainda no que concerne às fragilidades dos sistemas, designadamente na área da saúde, ALVIN RAJKOMAR [ et al. ] ilustram disparidades causadas por sistemas de machine learning com um algoritmo construído para a monitorizac!ão de risco de necessidade de cuidados intensivos, ou 168 PETERS, B.S., ARMIJO, P.R., KRAUSE, C. [et al.] - Review of emerging surgical robotic technology. Surg Endosc 32, 1636–1655 (2018), disponível para consulta em: https://doi.org/10.1007/s00464-018-6079-2 (consultado em 12/10/2023). 169 KHALIL, Islam [et al.] - Mechanical rubbing of blood clots using helical robots under ultrasound guidance. IEEE Robot Autom Lett. 2018, disponível para consulta em: https://research.utwente.nl/en/publications/mechanical-rubbing-of-blood-clots-using-helical-robots-under-ultr (consultado em 12/10/2023). 170 Urgent health challenges for the next decade, 13 de janeiro de 2020, disponível para consulta em em www.who.int/news-room/photostory/photo-story-detail/urgent-health-challen-ges-for-the-next-decade (consultado em 12/10/2023). 171 GILVARY, Coryandar [et al.] - The Missing Pieces of Artificial Intelligence in Medicine. Trends in pharmacological sciences, 40(8), 555–564. 2019, disponível para consulta em https://pubmed.ncbi.nlm.nih.gov/31277839/ (consultado em 11/10/2023). 172 Inteligência Artificial, Harvard Business Review – Visões Fundamentais. Lisboa: Actual Editora, 2020, ISBN: 9789896944889, p.91. 57 seja, sistemas de inteligência artificial que alertam para a necessidade de transferir os pacientes para uma unidade de cuidados intensivos nas seis horas subsequentes. Contudo, o algoritmo nem sempre terá razão, uma vez que pode apresentar falsos negativos e, por outro lado, falsos positivo. Outrossim, aponta-se como exemplo um caso concreto num hospital norte americano em que um robô foi usado no âmbito da medicina, isto é, foi um robô através de um videio que comunicou a um paciente de idade avançada – que se encontrava na unidade de cuidados intensivos, acompanhado pela família – que inexistiam probabilidades de sobreviver. Todavia, não tardaram a existir defeitos inerentes àquela comunicação, dado que o sistema de vídeo padecia de falhas técnicas inerentes à tecnologia que, associado à má condição de audição da qual padecia o idoso em apreço, resultaram numa má perceção pelo mesmo do que lhe havia sido transmitido, manifestando, neste caso, uma clara substituição do médico humano pelo médico robô e uma impessoalidade que DIANA COUTINHO, MARISA BARROS e SOFIA RODRIGUES caracterizaram – e bem, no nosso entendimento – um desrespeito pelo principio da beneficência e pela dignidade humana173. Por essa razão, não poderá haver lugar a uma autonomia total e plena dos sistemas de IA, pois a decisão será sempre do profissional de saúde. Podendo, em determinados casos, que suceder eventualmente um risco de discriminação resultante da interação entre as pessoas e os próprios sistemas de IA, por exemplo, se um sistema apresentar uma quantidade superior de falsos positivos para um determinado grupo de pessoas (por exemplo, de uma certa etnia), tal facto poderá levar os profissionais de saúde a desvalorizarem os alertas relativos a pessoas dessa etnia, com prejuízo para a qualidade da assistência que lhes é prestada174. Pelo que, como vimos, a utilização de IA na área da saúde poderá tornar os cuidados de saúde mais eficientes, acelerar e reduzir erros no diagnóstico, ajudar os pacientes a gerir a sua própria doença e contribuir para a diminuição do preconceito e erro humano, mas, por outro lado, erros e vieses enigmáticos podem prejudicar numerosos doentes ao mesmo tempo e, com isso, piorar as disparidades de saúde em grande escala, pelo que urge reconhecer a fragilidade destes sistemas, a importância de definir as estruturas corretas para a sua utilização e a necessidade de garantir um rigoroso controlo de qualidade, incluindo a supervisão humana, para evitar que se caminhe na direção de resultados inesperados, indesejados e prejudiciais. 173 COUTINHO, Diana, BARROS, Marisa, RODRIGUES, Sofia – Direito e Medicina: Novos e velhos desafios na comunicação de más-noticias: uma perspetiva médico-legal. In E.Tec YearbookHealth Law and Technology. 2019, p. 128. 174 ALVIN RAJKOMAR [et al.] – “Ensuring Fairness in Machine Learning to Advance Health Equity”. In Annals of Internal Medicine, Vol. 169, n.º 12, 2018, pp. 866-872, disponível para consulta em: www.doi.org/10.7326/M18-1990 (consultado em 11/10/2023). 58 4. Principais riscos e perigos para o utente do Serviço Nacional de Saúde (SNS) resultante da IA. O direito à saúde é um direito civilizacional, que sempre existiu e cujo objetivo sempre foi restituir ao Homem um equilíbrio perdido, almejando, por consequência, equilibrar a própria sociedade175. Assim, com vista a assegurar a efetivação do direito fundamental dos cidadãos à proteção da saúde, a nossa Lei Fundamental, a Constituição da República Portuguesa prevê a criação de um sistema de saúde universal, geral e tendencialmente gratuito176 e, por essa razão, o médico inserido nesse sistema terá um papel social público. Em Portugal foi criado, no ano de 1979, o Serviço Nacional de Saúde177, para dar resposta a tal exigência constitucional. Faz parte integrante, segundo a Lei de Bases da Saúde, do Sistema de Saúde Português, e é totalmente financiado pelo Estado, cuja única contrapartida para quem usufrui desses cuidados são as taxas moderadoras. Neste sentido, o SNS, enquanto maior prestador de cuidados de saúde no nosso país178 carece de ser cuidadosamente modernizado para um correto acompanhamento das tecnologias. Certo é que as tecnologias podem promover também uma proximidade entre o doente os prestadores de cuidados de saúde na justa medida da implementação de plataformas, aplicações, e até linhas de contacto diretas (SNS24) e, consequentemente, uma melhor facilidade no diagnóstico.179 Em sentido convergente, MANUEL PIZZARO, Ministro da Saúde De Portugal, considera que “a tecnologia ao serviço das pessoas” deve ser o tema central da reforma digital em curso no SNS”. O Ministro da Saúde enumerou algumas ferramentas que “têm aproximado o SNS dos cidadãos”, como o sistema automático de prescrição de receitas, a linha SNS 24, a digitalização 175 ARAÚJO, Joana [el.al.] – A problemática da responsabilidade individual da saúde pública em Portugal. Revista Brasileira de Pesquisa em Saúde . Abril-Junho 2019, p. 170. Disponível para consulta em https://www.researchgate.net/publication/340157760_A_problematica_da_responsabilidade_individual_na_saude_publica_em_Portugal/link/ 5f89686b299bf1b53e2c0af8/download?_tp=eyJjb250ZXh0Ijp7ImZpcnN0UGFnZSI6InB1YmxpY2F0aW9uIiwicGFnZSI6InB1YmxpY2F0aW9uIn19 (consultado em 11/10/2023). 176 Artigo 64°, n°2, al. a) da CRP: «O direito à proteção da saúde é realizado através de um serviço nacional de saúde universal e geral e, tendo em conta as condições económicas e sociais dos cidadãos, tendencialmente gratuito» 177 Foi criado pela Lei 56/79, que no âmbito do Ministério dos Assuntos Sociais, criou o Serviço Nacional de Saúde (SNS) 178 PEREIRA, André) Gonçalo Dias – Responsabilidade Civil em Saúde e Violação do Consentimento informado na jurisprudência portuguesa recente. Almedina. Revista JULGAR, n.º 42, 2020. Disponível para consulta em: https://julgar.pt/wp-content/uploads/2020/09/JULGAR42-04-ADP.pdf (consultado em 12/10/2023). 179 ANTÓNIO, Isa - O impacto da tecnologia no setor da saúde e nos direitos fundamentais do doente. In E.Tec YearbookHealth Law and Technology. 2019, p. 140. 59 e consulta de exames, o atendimento automático de chamadas nos centros de saúde, ou a marcação e realização de teleconsultas. “Esta é a inovação que interessa acolher”, salientou Manuel Pizarro.180 O estudo sobre a evolução e o impacto da IA na atualidade nas mais diversas áreas, mormente na área da medicina, revela-se inequívoco no que concerne aos vários argumentos favoráveis à evolução da Inteligência Artificial, tais como, superar o envelhecimento das sociedades, auxiliar os clínicos na formulação de um diagnóstico viável e célere, maior grau de precisão nas intervenções cirúrgicas. Por outro lado, não restam dúvidas que a evolução da IA compreende também o risco sério da criação de desigualdades, nomeadamente por força da automação e digitalização, entre outros ricos e perigos para os utentes. Todavia, e não obstante os benefícios associados à utilização de IA supra elencados, existem algumas questões prementes a ser consideradas: quem é responsável pelas decisões tomadas pelos sistemas de IA? Qual o potencial da IA para tomar decisões erradas, como validar os resultados da aplicação de IA? O uso crescente da IA levará a uma perda de contato humano nos cuidados? Sentir-se-á a população mais envelhecida discriminada ou serão criados meios de aprendizagem para esta faixa etária acerca da IA? O que acontece se os sistemas de IA forem invadidos, ou seja, como se garante a segurança e a privacidade de dados potencialmente sensíveis? Como garantir a confiança dos utentes no desenvolvimento e uso da tenologia associada a IA? Quais os efeitos da IA no sentido de dignidade e isolamento social das pessoas em situações de cuidado? Qual o papel e as competências exigidas aos médicos e como isso impacta a relação médico doente e o exercício profissional? Qual o potencial da IA para ser usada para fins maliciosos? Neste ensejo, face a estas questões, cumpre-nos apontar como potencias desvantagens e riscos para o utente do SNS o aumento da desumanização dos cuidados de saúde, a potenciação do ressentimento dos profissionais de saúde pelo facto de temerem a sua substituição e consequente destabilização emocional dos mesmos, a intensificação do distanciamento dos pacientes devido aos baixos níveis de literacia em saúde e de literacia digital, especialmente na faixa etária mais envelhecida, incerteza quanto aos riscos que este tipo de tecnologia pode comportar, bem como quanto aos benefícios que pode este tipo de tecnologia acarretar, aumento 180 SNS - Transição Digital na Saúde. Noticias de Saúde. Serviço Nacional de Saúde. 2023, disponível para consulta em https://www.sns.gov.pt/noticias/2023/04/19/transicao-digital-na-saude-2/ (consultado em 12/10/2023). 60 do risco de invasão da privacidade dos utentes e violac!ões da seguranc!a da informac!ão de saúde e, por último, mas não menos importante, a ameaça à sustentabilidade dos sistemas de saúde devido ao elevado investimento necessário para implementar este tipo de tecnologia. Assim, enquanto houver memorização, perceção exata e serviço para outros, as pessoas tendem a estar confortáveis com um robô a atuar. Por outro lado, quando for o caso de criação artística, avaliação, julgamento e diplomacia, o ser humano é mais aconselhável a realizar o trabalho181. CAPÍTULO III – RESPONSABILIDADE MÉDICA DOS HOSPITAIS DO SNS POR DANOS CAUSADOS PELA INTELIGÊNCIA ARTIFICIAL 1. A natureza jurídica da prestação de cuidados de saúde no seio hospitalar público (relação jurídica) vs. a natureza jurídica dos cuidados médicos prestados no setor privado (contrato). O estabelecimento de saúde, independentemente de se tratar de um privado ou de um público, tem como propósito a prestação de cuidados de saúde. Para o efeito, promove a contratação de meios humanos e materiais com vista ao objetivo pretendido. Neste sentido, no estabelecimento de saúde, o médico obriga-se, face ao paciente, a uma série de deveres específicos dotados de natureza legal e contratual, não se tratando de meros deveres gerais de respeito, pelo que o âmago da prestação principal do médico é fornecer, enquanto profissional qualificado e dotado de competências adequadas, ao paciente a assistência médica para a cura, diminuição de sofrimento ou prolongamento de vida, empregando, para o efeito, os conhecimentos que advêm das suas habilitações. A prestação de cuidados de saúde no âmbito hospitalar assume diferentes naturezas jurídicas consoante estejamos perante um estabelecimento de saúde público ou no âmbito dos cuidados prestados no setor privado, não obstante, em termos práticos, os deveres de conduta adstritos aos médicos serem os mesmos182. Do ponto de vista jusprivatístico, em Portugal, a opinião dominante entre a doutrina e a 181 DESTEPHE, Matthieu [et al.] - Walking in the uncanny valley: importance of the attractiveness on the acceptance of a robot as a working partner. Front Psychol. 2015 Feb 25;6:1–11, disponível para consulta em https://www.frontiersin.org/articles/10.3389/fpsyg.2015.00204/full (consultado em 12/10/2023). 182 Ac. do TRL, datado de 22/03/2007, Proc. n.º 5177/2006-2, Relator Neto Neves, disponível para consulta em: http://www.dgsi.pt/jtrl.nsf/33182fc732316039802565fa00497eec/2bbeaf47251e3fc18025737c00475f2c?OpenDocument&Highlight=0,proce sso,n.%C2%BA,5177%2F2006-2 (consultado em 13/10/2023). 61 jurisprudência é que a relação jurídica que se cria entre o médico e o seu paciente sob a perspetiva da sua inserção num hospital público é uma relação de serviço público, uma vez que inexiste um qualquer contrato, isto é, entre as partes, paciente e médico, bem como com a instituição pública, e os atos praticados são atos de gestão pública183, sendo uma função do Estado Social prestador, que através dos seus agentes serve o interesse público, através da prestação de cuidados à população, garantindo, assim, a promoção, efetivação e defesa do direito à saúde. Neste sentido, cumpre-nos, desde já, apurar qual a relação que se estabelece na prestação de cuidados de saúde no âmbito hospitalar, entre o médico, o doente e o hospital público. FREITAS DO AMARAL defende que se tratará de uma relação jurídica plurilateral entre o utente, a Administração – enquanto hospital – e os profissionais de saúde e, por isso, esta relação reger-se-á por princípios, normas e regras de direito público184. E ainda, SÉRVULO CORREIA185, concretiza esta relação como uma relação administrativa poligonal, que abrange o particular, na qualidade de utente, o hospital e o médico propriamente dito. Neste contexto, GUILHERME DE OLIVEIRA afasta a figura do contrato destas relações jurídicas, com base no pressuposto de que a prestac!ão de cuidados médicos nos estabelecimentos do SNS constitui a realizac!ão de um serviço público186. Em sentido convergente, entende também o Juiz Conselheiro HENRIQUES GASPAR, concluindo que “esta função se consome numa atividade de gestão pública, a qual deixa os intervenientes unidos por uma verdadeira e própria relac!ão de serviço público, e não por uma qualquer relac!ão de direito privado”187. Pelo que, conforme se pode constatar é esta a posição maioritária uma vez que a doutrina refere não existir liberdade de escolha, nomeadamente, SÉRVULO CORREIA defende, neste ensejo, que a relação que se cria não é bilateral, não advém de um acordo de vontades e, por isso, não é enquadrável no âmbito do contrato de prestação de serviços médicos nos termos dos artigos 1154.º e ss. do Código Civil188. Neste ensejo, DIAS PEREIRA189 e DIAS SIMÕES190, defendem igualmente a tese que a relação 183 AMARAL, Diogo Freitas do - Natureza da Responsabilidade Civil por Actos Médicos Praticados em Estabelecimentos Públicos de Saúde, op. cit , pp. 120-121. 184 AMARAL, Diogo Freitas do - Natureza da Responsabilidade Civil por Actos Médicos Praticados em Estabelecimentos Públicos de Saúde, op. cit. , p. 129. 185 CORREIA, José Manuel Sérvulo – As relações jurídicas administrativas de prestação de cuidados de saúde. Revista Brasileira de Direitos Fundamentais & Justiça . ISBN 1982-1921. Vol. 3, n.º7, (2009), p. 19. 186 OLIVEIRA, Guilherme – Estrutura Jurídica do Acto Médico, Consentimento Informado. In Temas de Direito da Medicina. Coimbra: Coimbra Editora, 2005, ISBN: 9789723213164, p.61. 187 GASPAR, António Silva Henriques – A Responsabilidade Civil do Médico. In Coletânea de Jurisprudência, Ano III, 1978, pág. 339. 188 VOUGA, Rui Torres – A responsabilidade Civil médica (decorrente de atos médicos praticados em hospitais públicos), in Coleção de Formação Contínua, Centro de Estudos Judiciários Junho de 2018, p. 12. 189 PEREIRA, André Gonçalo Dias - O consentimento informado na relação médico-paciente – Estudo de Direito Civil, Coimbra: Faculdade de Direito da Universidade de Coimbra, 2003, p. 19 (dissertação de mestrado). 190 CORREIA, José Manuel Sérvulo – As relações jurídicas administrativas de prestação de cuidados de saúde, op. cit . 62 existente entre um médico e um paciente num hospital público assenta numa relação de serviço público e, por isso, não assenta num contrato, uma vez que o médico, que faz parte do SNS, encontra-se a cumprir a função do Estado Social191. Em suma, e como vimos, a responsabilidade civil administrativa será uma obrigação jurídica, a cargo de uma pessoa coletiva pública, de ressarcir os danos por si causados aos particulares, no exercício da função administrativa ou de gestão privada. Neste ensejo, COLAÇO ANTUNES esclarece que a responsabilidade administrativa começou a ser tratada a partir do Ácórdão Blanco (de 08 de Fevereiro de 1873), do tribunal de conflitos francès. Assim sendo, a inexistência de um qualquer contrato na relação entre médico e paciente no âmbito hospitalar público faz com que em termos processuais a responsabilidade daí proveniente seja extracontratual, uma vez que se trata de atos de gestão pública, praticados no exercício do chamado ius imperium do Estado para a prossecução de fins específicos e atribuições deste. A partir da responsabilidade extracontratual por atos de gestão publica decorrem dois fundamentos cruciais: um subjetivo, que nos termos do artigo 18.º, n. º1 da CRP se prende com a Administração, na sua atuação, estar vinculada e adstrita ao respeito pelos direitos fundamentais dos particulares, e o outro que se prende com um fundamento objetivo, designadamente, o princípio da legalidade, enquanto princípio basilar. Decorre também destes dois fundamentos a proibição de a Administração lesar contra legem a esfera jurídica dos cidadãos, provocando-lhes prejuízos quando age. Portanto, quando haja responsabilidade administrativa dos titulares de órgãos, funcionários e agentes das pessoas coletivas públicas os atos devem ser praticados no âmbito do exercício das suas funções, para - e somente desta forma, enquanto critério funcional – responderem pelos seus atos. No mais, e como referem autores como GOMES CANOTILHO e VITAL MOREIRA192 a responsabilidade civil do Estado é um “pilar” do Estado de Direito. Neste sentido, quando nos deslocamos a um estabelecimento do SNS é decidido a nível administrativo qual o serviço e qual o médico competente para atender determinado paciente, não recaindo a escolha sobre este último, como acontece no âmbito das instituições de saúde privadas. Por outro lado, no que concerne à natureza jurídica dos cuidados médicos prestados no 191 A prestação de cuidados de saúde aos cidadãos é uma atribuição do Estado, segundo o artigo 64.º da CRP. 192CANOTILHO, José Joaquim Gomes e MOREIRA, Vital - Constituição da República Portuguesa Anotada, 4.ª ed., Vol. 1.º. Coimbra: Coimbra Editora, 2007, p. 425. 69 RRCEEEP consagra, pela primeira vez, o conceito de “funcionamento anormal do serviço” e só apenas passados vários anos começou tal resposta a ser admitida pelos tribunais administrativos214. Neste ensejo, MÁRIO AROSO DE ALMEIDA e VIEIRA DE ANDRADE, consideraram ser este um caso inédito, uma vez que a jurisprudência extrapolou a letra da lei e admitiu a responsabilização de entidades pública. Assim, no que se refere à responsabilidade civil da administração, uma das principais alterações introduzidas pela LRCEE foi a consagração legal da responsabilidade da administração pelo funcionamento anormal dos seus serviços, a qual há já muito tempo vinha sendo reclamada pela nossa doutrina215, almejando colmatar a situação precedente. Foi da jurisprudência francesa, mais concretamente dos acórdãos do Conselho de Estado, que o conceito de faute du service proliferou, tendo sido adotado em Portugal sob a veste de “funcionamento anormal do serviço”, sendo certo que, foi desde o ano 1966 que a jurisprudência administrativa acolheu a faute du service 216 , embora a jurisprudência já dirimisse litígios com base na figura em apreço muito antes de o legislador a consagrar legalmente. Por essa razão, a LRCEE forneceu um critério de funcionamento anormal. Há, assim, funcionamento anormal quando, segundo o nosso legislador, atendendo às circunstâncias e a padrões médios de resultado, fosse razoavelmente exigível ao serviço uma atuação suscetível de evitar os danos produzidos (art. 7.º, n.º 3). O direito positivo português contempla assim, pela primeira vez, a faute du service que, na prática, e de modo a contextualizar, prender-se-á com situações em que “doentes hospitalizados por afecção benigna ou para serem submetidos a operação banal [que] adquirem, após a sua estadia no hospital, sequelas graves”217. Neste ensejo, cumpre-nos, agora, expor as três modalidades possíveis de funcionamento anormal do serviço. A saber: falta de funcionamento, funcionamento mau e funcionamento tardio. Todas estas modalidades já foram aplicadas pela nossa jurisprudência. Neste sentido, cumpre-nos, agora, indagar o significado do conceito compreendido no art.º 7, n.º 3 da referida lei, designadamente, “falta do serviço”. Para este efeito, o art.º 7, n.º 4 da 214 Como são exemplo, os Acs. do STA de 16-05-1996, proc. 036075, de 07-12-1999, proc. 044836, e de 10-02-2000, proc. 045191, (consultados em 16/10/2023). 215 Não seria justo excluir a responsabilidade do Estado nos casos em que não fosse possível determinar com precisão os órgãos e agentes reesposáveis por ações ou omissões causadoras de danos, nesse sentido AMARAL, Diogo Freitas do — A Responsabilidade da Administração no Direito Português. Revista da Faculdade de Direito da Universidade de Lisboa. Lisboa, vol. XXV (1973), p.34 216 Acórdão do STA de 28-11-1966, ADSTA 51 (1966), 321. 217 SOUSA, Marcelo Rebelo de - Responsabilidade dos Estabelecimentos Públicos de Saúde: culpa do agente ou culpa da organizac"ão?, in “Direito da Saúde e Bioética”. Lisboa: AAFDL, 1996, p. 155156. 70 referida lei considera que há um funcionamento anormal do serviço quando, “atendendo às circunstâncias e a padrões médios de resultado, fosse razoavelmente exigível ao serviço uma atuação suscetível de evitar os danos produzidos”. Neste sentido, quanto aos dois requisitos estabelecidos na letra da lei, nomeadamente, no que concerne às circunstâncias e padrões médios de resultado, tem-se em conta o que normalmente podia ter sido feito para evitar a produção do resultado danoso, em função dos meios ao dispor do serviço no momento da ocorrência do facto lesivo. Por outro lado, se os danos ocorrerem em consequência da falta de algum ou alguns destes recursos, não existe comportamento culposo e, consequentemente, funcionamento anormal do serviço, pois o serviço funcionou normalmente. O mesmo já não ocorrerá se esta falta resultar de uma deficiente previsão de um determinado titular de órgão ou dirigente de serviço quanto aos meios necessários para o correto funcionamento do serviço. Assim, ao contrário do sucedido no passado, o nosso ordenamento jurídico consagra atualmente a possibilidade de imputação de responsabilidade ao Estado e demais entes públicas, ainda que seja difícil ou praticamente impossível individualizar o ente administrativo para lhe ser imputada a responsabilidade, desde que se evidencie que o serviço público funcionou de forma anormal. Tratou-se de uma evolução normativa crucial que teve como escopo, essencialmente, a proteção do particular lesado, que atualmente, pode levar a cabo a sua pretensão indemnizatória, não sendo condição exclusiva para o efeito identificar o agente administrativo responsável pelo ato. Não obstante, impõe-se a questão a saber se esta teoria deve enquadrar-se na responsabilidade civil extracontratual das entidades públicas por facto ilícito e culposo (responsabilidade subjetiva) ou antes, deve ser analisada enquanto uma modalidade de responsabilidade civil extracontratual por facto ilícito, mas não culposo (responsabilidade objetiva) se no nosso ordenamento jurídico. Esta questão é entendida, para a maioria da doutrina portuguesa, que tal regime se insere na responsabilidade civil subjetiva extracontratual do Estado e demais pessoas coletivas. No entanto, e como não poderia deixar de ser, existe quem entenda diferente, designadamente MARCELO REBELO DE SOUSA que afirma que a responsabilidade por um funcionamento anormal do serviço não deverá ser enquadrada em qualquer uma das modalidades do conceito de culpa, visto que não envolve um juízo pessoal de censurabilidade, afirmando, nesse sentido, que o conceito em análise constitui um “ilícito do serviço e não (...) culpa do serviço (...), [consubstanciando um] ilícito da pessoa colectiva pública considerada e não de certo serviço não 71 personalizado dentr[o] dela”218. Ora, desta questão, entendemos, não estar perante uma modalidade de responsabilidade objetiva, desde logo porque o fundamento deste regime de responsabilidade prende-se com a “teoria do risco” e, salvo melhor opinião, a atividade de prestação de cuidados de saúde é uma atividade do Estado desenvolvida exclusivamente em prol do cidadão, razão pela qual, contraria em pleno, na nossa modesta opinião, a ideia inerente à “teoria do risco”, que “quem cria ou mantém um risco em proveito próprio, deve suportar as consequências prejudiciais do seu emprego, já que deles colhe o principal benefício”219. Ainda assim, ainda que não explicito taxativamente na lei, poder-se-á inferir do artigo 9.º, n.º e artigo 10.º, n. º1 do RRCEEEP um juízo de censura, que assume a forma de presunção de culpa, na medida em que o legislador censura a falta de organização e diligência que imputa à pessoa coletiva por não ter sido capaz de assegurar o funcionamento normal dos serviços devido a ações ou omissões ilícitas. Desta forma, o legislador consagrou um juízo de censura objetivado que, sinteticamente, uma vez verificada a ilicitude, que resulta do não cumprimento, pelo servic!o, de padrões médios de resultado, se conclua automaticamente pela culpa do servic!o, ao qual era razoavelmente exigível a adoc!ão de uma conduta diferente. Portanto, poder-se-á concluir que a consagração deste regime é favorável à pretensão do utente, uma vez que terá apenas de provar a ilicitude da atuação do serviço, não carecendo de ser dado por provada a culpa do mesmo, e, por essa razão, a única forma de o hospital afastar a aplicação deste regime será mediante a prova de que a atuação ou omissão do serviço não é passível de ser considerada ilícita. Sucede que a inteligência artificial tem vindo a desafiar os quadros jurídicos clássicos, por força da sofisticação técnica que assume um crescimento veloz nunca vivido. Por essa razão, o tempo presente e o futuro imediato urgem respostas que façam face à era tecnológica vivenciada e aos problemas e desafios inerentes nas mais diversas áreas e setores. Deste modo, o uso de sistemas de inteligência artificial não pode ficar indiferente à teoria do funcionamento anormal do serviço, pois, destes sistemas podem resultar erros e, consequentemente, danos que, atendendo às circunstâncias e a padrões médios de resultado, seja razoavelmente presumível que uma atuação do serviço fosse capaz de evitar os mesmos. 218 SOUSA, Marcelo Rebelo de – op. cit., p. 172. 219 VARELA, Antunes - Das Obrigações em Geral, 10.ª Ed., Vol. I. Coimbra: Almedina, 2005, ISBN 9789724013893, p. 633. 72 Na área de medicina, todos os clínicos nas mais diversas especialidades vão usar este tipo de tecnologia, em particular aprendizagem profunda, uma vez que esta capacidade de reconhecimento de padrões através de redes neuronais profundas pode ajudar a interpretar exames médicos, imagens de anatomia patológica, lesões da pele, imagens da retina, eletrocardiogramas, endoscopias, faces, sinais vitais entre outros. Assim, perante o paradigma atual, revela-se crucial ponderar e refletir se os erros ocasionados pela IA e os danos daí advindos devem ser atribuídos a um funcionamento anormal do serviço, por força das disposições estabelecidas no artigo 7.º, n. º3 do anexo à Lei 67/2007, de 31 de Dezembro. 3.1 A relevância da dicotomia “ faute du service ” e “ faute de service ” No âmbito da responsabilidade da administração é crucial abordar a dicotomia entre as modalidades do funcionamento anormal do serviço, designadamente, dois conceitos importantes que merecem cuidada análise. A teoria da culpa do serviço, ou faute du service na terminologia original, foi um importante acrescento à doutrina da responsabilidade civil da Administrac!ão Pública. Tendo como pressuposto a culpa, a culpa do servic!o é, nas palavras da Professora Margarida Cortez220, “uma ficção a que se recorre nas hipóteses em que não é possível identificar o autor material do facto lesivo”. Deste modo, inspirado no ordenamento jurídico francês, pioneiro neste domínio221, o sistema português acolheu, primeiro na jurisprudência e só depois na doutrina, a figura da faute du service, como vimos anteriormente. Neste sentido, é com o artigo 7.º, n.º 3 e 4 da Lei n.º 67/2007 de 31 de Dezembro, que se admite, em definitivo, a teoria da culpa do servic!o como fundamento do dever de indemnizar por parte da Administração Pública no ordenamento jurídico português. O n.º3 do artigo 7.º da referida lei estatui, desde logo, uma inovação, quer a nível nacional, quer a nível internacional, uma vez que a regra na responsabilidade civil extracontratual administrativa na maioria dos países europeus era diversa da agora em apreço, pois, este preceito estatui uma responsabilidade direta, exclusiva e objetiva do Estado e das demais pessoas coletivas de direito público em casos de culpa 220 CORTEZ, Margarida – Responsabilidade Civil da Administrac"ão por Actos Administrativos Ilegais e Concurso de Omissão Culposa do Lesado. Coimbra: Coimbra Editora, Abril de 2000. ISBN 9789723209839, p. 93. 221 O princípio da responsabilização deu os seus primeiros passos com os Acs. Blanco e Pelletier (1873) que culminaram no ac. Anguet (1911). 73 do servic!o. Deste modo, o Estado é responsável e tem o dever de indemnizar o particular, ainda que não estejam observados outros critérios, bastando que o facto ilícito que originou o dano resulte de um funcionamento anormal do serviço. Todavia, a respeito deste conceito, cumpre-nos abordar duas expressões cuja linha que as separa é muito ténue: “ Faute du service ”222 e “ Faute de service ”. Neste ensejo, MÁRIO AROSO DE ALEMIDA, refere-se a estas tuas teorias como a falta coletiva (“ faute du service ”) e a falta anónima (“ faute de service ”), respetivamente. No entendimento deste autor, a falta coletiva, corresponde, portanto, como já anteriormente referido, aos casos em que não é possível imputar o dano a um agente em concreto, sendo então imputado a um anormal funcionamento do serviço. Ao passo que a falta anónima, diversamente, é possível identificar a autoria pessoal do facto lesivo, mesmo que ainda nestes casos seja possível extrair um funcionamento deficitário do serviço.223 Segundo a definição destas expressões compreende-se que é necessário que a falha tenha de ser cometida no âmbito da relação entre o agente ou funcionário administrativo e o servic!o público e das respetivas atribuic!ões. Trata-se de um pressuposto material. No entanto, se apenas existisse este pressuposto o resultado prendia-se no excesso de responsabilização do Estado, que teria de responder financeiramente por todas as falhas dos seus agentes ou funcionários. Por essa razão, foi necessária a criação de um critério que delimitasse a aplicação da figura em apreço. E, assim, surge o requisito de culpa anónima. No entanto, com vista a garantir a continuidade dos princípios constitucionais da prossecução do interesse público e da eficácia administrativa, consagrados nos artigos 266.º, n.º1 e 267.º, n.º2 da Constituição da República Portuguesa, na nossa opinião, devem empregar-se todos os meios necessários para apurar a identidade do culpado, devendo somente o instituto da culpa do serviço por mau funcionamento ser acionado apenas quando está plenamente vedada essa possibilidade224, pois, a não ser assim, estar-se-ia a proporcionar a utilizac!ão de fundos 222 Como ensinava CUNHA GONÇALVES na década de 50, a responsabilidade do Estado pode resultar, exclusivamente, duma culpa do serviço público. Não se trata de culpa de certos e determinados funcionários, mas sim de culpa anónima, consistindo num dos factos seguintes: a) má organização do serviço ou mau, tardio ou paralisado funcionamento dele; b) defeituosa instalação dum serviço ou mau estado dos locais administrativos; c) insuficiente conservação ou má qualidade do material utilizado pela administração. GONÇALVES, Luiz da Cunha — Tratado de Direito Civil, Tomo I, vol. XIII, 1956, pp. 516-517 e 524. 223 ALMEIDA, Mário Aroso de - Teoria Geral do Direito Administrativo. 2.ª ed. Coimbra: Almedina, 2015. ISBN: 9789894009450, pp. 482-487. 224 SOUSA, Ana Pereira de – A Culpa do Servic"o no exercício da func"ão administrativa. Revista da Ordem dos Advogados . Lisboa. ISSN 0873-4860 27. N.º1, Ano 27 (2012), disponível para consulta: https://portal.oa.pt/upl/%7B54c06115-8834-4732-80bd-d5741cbae04d%7D.pdf, pág. 349 (consultado em 22/10/2023). 74 públicos para o ressarcimento de particulares em situac!ões de erro de um agente ou funcionário administrativo que só não é culpabilizado porque não é identificável, o que no nosso entendimento não se concebe. Assim, a solução a esta questão, passa pela responsabilidade solidária do Estado, conforme estabelece a LRCEE, no artigo 6.º, que refere que o exercício do direito de regresso é obrigatório e uma verdadeira exigência constitucional, nos termos do artigo 22.º da CRP, pois se assim não fosse, seriamos nós todos, enquanto contribuintes, a suportar prejuízos dos agentes e funcionários administrativos. Pelo que, logo que existe funcionamento anormal do serviço público, presume-se a ilicitude da conduta das entidades públicas e só estas são demandadas, pelo que fica satisfeito desde logo o lesado. Porém, e para que situações injustas não ocorram perante a comunidade, exige-se a responsabilidade solidária do agente administrativo faltoso com o Estado, procedendo com o direito de regresso contra o órgão, funcionário ou agente que atuou com dolo ou culpa grave. Em suma, como até aqui se viu, a produção dos danos revela, em qualquer uma das circunstâncias, um funcionamento anormal do serviço, quer porque a lesão resulta de falhas imputáveis ao serviço globalmente considerado ou porque foi um dos seus funcionários ou agentes que incorreu na violação de regras técnicas ou de um dever geral de cuidado. Pelo que, a teoria da culpa do serviço assume-se como elementar ao regime constitucional relativo à responsabilidade pelo exercício da função administrativa. 4. A imputação de responsabilidade médica do Estado por ações e omissões da IA na prestação dos cuidados de saúde: a problemática As questões atinentes à responsabilidade médica do Estado têm sido, desde há uns anos para cá, abordadas nos nossos Tribunais. Autores como FIGUEIREDO DIAS e SINDE MONTEIRO realçavam a existência de um número de pequena dimensão em relação a ações judiciais que abordavam a problemática da responsabilidade civil e penal do médico.225 As pronuncias eram esporádicas e, regra geral, culminavam na absolvição do médico ou do hospital. Diferentemente, nos dias de hoje o número de processos de responsabilidade médica tem 225 AMORIM, Ana - A responsabilidade do médico enquanto perito, op. cit., p. 113. 75 vindo a aumentar acentuadamente, desde logo devido à consciencialização e preocupação dos cidadãos no que diz respeito aos seus direitos, procurando, assim, “mais informação ao nível da ressarcibilidade de danos e prejuízos enquanto resultado da prática de um ato médico”.226 Segundo MARCELO REBELO DE SOUSA e ANDRÉ SALGADO DE MATOS227 “o princípio vigente na ordem jurídica é o de que os prejuízos são suportados por quem os sofre, mas a situação pode inverter-se quando sejam causados por factos imputáveis a pessoas distintas daquela em cuja esfera jurídica ocorrem. Nestes casos impõe-se prima facie que os lesados sejam ressarcidos dos danos sofridos por aqueles que os provocarem”, sendo, portanto, o princípio mais certo que haverá. No que concerne à área da medicina, o médico, perante o paciente, obriga-se a uma série de prestações, enquanto o paciente, por seu turno, tem o dever de cumprir o tratamento sem interrupções e conforme estipulado pelo médico, sob pena de isentar o médico de responsabilidade, como foi já afirmado pelo STJ. Neste âmbito, a responsabilidade extracontratual era a única modalidade de responsabilidade aceite pela doutrina, uma vez que esta não aceitava a ideia de celebração de um contrato quando estivesse em causa uma relação entre médico e paciente. Hoje, por sua vez, é aceite pela doutrina e jurisprudência nacionais a existência de um sistema dualista no âmbito da responsabilidade civil que permite que, atendendo a cada caso em concreto, o ato praticado ou omitido pelo médico seja elemento de suporte para uma responsabilização contratual ou extracontratual, consoante o tipo de relação existente, conforme pudemos analisar noutros pontos da presente dissertação. Todavia, a Inteligência Artificial, paulatinamente, vem-se imiscuindo no quotidiano do ser humano, nas mais diversas práticas comuns e a revolução digital atingiu um novo patamar, dado que, atualmente, objetos com componente física e móvel da máquina dotados de IA agem de forma parcialmente autónoma ou até em alguns casos com plena autonomia, sem controlo direto do ser humano. Deste modo, a crescente substituição de relações interpessoais entre o homem e máquina repercutir-se-á na singularidade de cada um de nós, isto porque as novas tecnologias diluem as identidades dos agentes responsáveis, aproximando somente os utilizadores. Ora, a multiplicidade de intervenientes provoca, assim, uma dificuldade acrescida no que concerne à imputação jurídica de responsabilidade, que pode originar a desproteção indevida do 226 Idem ., pág. 117. 227 SOUSA, Marcelo Rebelo de; MATOS, André Salgado de – Responsabilidade Civil Administrativa, Direito Administrativo Geral, op. cit., p.11. 76 paciente, que é um resultado que deve ser combatido228. Neste sentido, encontrar o agente responsável pelo dano causado por máquina dotada de IA é uma das questões mais pertinentes no âmbito deste tema, pois, conforme referido no Livro Branco “as pessoas que sofreram danos causados pela intervenção de sistemas de IA devem beneficiar do mesmo nível de proteção que as pessoas que sofreram danos causados por outras tecnologias, sem que tal impeça a inovação tecnológica de se continuar a desenvolver”229. Neste ensejo, certas questões carecem de respostas para uma correta implementação e aplicação dos sistemas de IA, tais como: será possível responsabilizar-se um sistema de Inteligência Artificial, uma vez que não detém personalidade jurídica ou, paralelamente, se deverá ser criada uma personalidade jurídica própria conforme ocorreu com as pessoas coletivas? E ainda questões relativamente à culpa e a ilicitude, enquanto requisitos da responsabilidade, uma vez que dificultam a imputação da responsabilidade em termos subjetivos em relação ao sujeito que controla o sistema, pois, estes dispositivos são dotados de um grau de autonomia suscetíveis de adotar comportamentos imprevisíveis, que o utilizador não controla integralmente, surgindo dificuldades para demonstrar a omissão da diligência e a competência exigíveis ao prestador dos cuidados de saúde. Assim, e atendendo em linha de conta as Leis de ASIMOV230, nomeadamente a primeira, em que uma máquina deverá ser sempre programada de modo a preservar a vida humana, o paradigma atual obrigará a revisão dos pressupostos clássicos da responsabilidade, uma vez que os critérios tradicionais se revelam insuficientes231. Neste tema, e como não podia deixar de ser, a União Europeia não ficou indeferimento à proeminência das questões relacionadas com a responsabilidade dos sistemas de IA, razão pela qual em 2017 surge a Resolução do Parlamento Europeu sobre o Direito Civil e a Robótica (ResPe), em que ficou clara a necessidade de ser resolvida a questão da responsabilidade civil pelos danos causados por estes “agentes” inteligentes, por forma a “garantir o mesmo nível de eficácia, de transparência e de coerência na execução da segurança jurídica em toda a União para benefício 228 MOREIRA, Sónia; FREITAS, Pedro Miguel - IA e Robótica: Desafios para o Direito do Século XXI. Coimbra: GestLegal, 2022. ISBN:978-989-913609-0, p. 177. 229 Comissão europeia, Livro Branco sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança, Bruxelas, 2020, p.17. 230 As leis de ASIMOV são três regras idealizadas pelo escritor Isaac Asimov, almejando permitir o controle e limitar os comportamentos dos robôs. São elas, designadamente, “First Law – A robot may not injure a human being or, through inaction, allow a human being come to harm. Second Law – A robot must obey the orders given it by human beings except where such orders would conflict with the First Law. Third Law – A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws”, Cf. Isaac ASIMOV, Runaround, I, Robot, Gnome Press, 1950, p. 27. 231 BARBOSA, Mafalda Mirada – Inteligência artificial, entre a utopia e a distopia, alguns problemas jurídicos. Coimbra: Gestegal, 2021. ISBN: 9789898951823. 77 dos cidadãos, dos consumidores e das empresas”232. Porém, perante o paradigma atual, de facto, não encontramos ainda uma previsão legal direta e estável que ponha termo às questões inerentes e aos desafios levantados, razão pela qual a doutrina tem procurado, direta ou analogicamente, uma solução legal dentro do regime já existente. No entanto, e porque se impunha – e impõe - uma intervenção legislativa relativa à responsabilidade civil por danos causados por IA, procurando a fragmentariedade das soluções legislativas, em 28 de Setembro de 2022, a Comissão adotou uma Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à adoção das regras da responsabilidade civil extracontratual à inteligência artificial, na sequência da Resolução 2020/2014 do Parlamento Europeu. A Comissão optou preferencialmente por um modelo de responsabilidade assente na culpa, aplicando-se a diretiva nas ações de indemnização de direito civil extracontratual por danos causados por um sistema de IA, sempre que tais ações sejam intentadas ao abrigo da responsabilidade culposa. Trata-se, por isso, de uma diretiva de harmonização mínima, razão pela qual, atento o âmbito circunscrito, a diretiva implicará uma articulação necessária com o Regulamento Inteligência Artificial. Assim sendo, cumpre-nos referir os três grandes níveis sobre os quais assenta a abordagem baseada no risco da Proposta do Regulamento do Parlamento Europeu e do Conselho em que nos termos do artigo 5.º são proibidas atividades cuja utilização de IA implique um risco considerado inaceitável, designadamente, sistemas de IA que desenvolvam técnicas que afetam a consciência e condicionem o comportamento das pessoas causando, eventualmente, um dano físico ou moral; bem como técnicas que explorem alguma vulnerabilidade de um grupo específico de pessoas devido à sua idade; entre outras neste artigo consagradas. Paralelamente, no segundo nível configuram-se os chamados sistemas de alto risco, nos quais se impõe o cumprimento rigoroso de diversos deveres, orientados através da supervisão humana e disponibilização de informação, antes de colocados no mercado. Nestes sistemas de alto risco, impõem-se também o cumprimento cumulativo de dois requisitos, nomeadamente, o sistema de IA destinar-se a ser utilizado como componente de segurança de um produtor e o produto ser submetido a uma avaliação de conformidade de terceiros. Neste sentido, e almejando o cumprimento dos deveres e requisitos cumulativos explanados, nos termos artigo 9.º, a diretiva 232 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL)), Considerado 49, p. 15 78 impõe a adoção de regras especificas para o funcionamento do serviço. Por último, mas não menos importante, o terceiro nível prende-se com os sistemas de risco limitado e os sistemas de risco mínimo, em que são impostas obrigações especificas de transparência, bem como relativamente aos quais não se colocam especiais exigências, respetivamente. Portanto, com a proposta de um Regulamento do Parlamento Europeu e do Conselho reforçase, deste modo, a ideia de estabelecimento de regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização de sistemas de IA, combatendo os desafios e problemáticas inerentes à sua aplicação nas diversas áreas existentes233. 4.1 Propostas doutrinais de imputação de responsabilidade Como vimos, os agentes autónomos são, agora, uma realidade nas mais diversas áreas que compreende inúmeros benefícios, bem como avultados perigos, para os quais não encontramos uma previsão legal direta capaz de solucionar os desafios inerentes. Deste modo, como sabemos, quando surge uma nova realidade perante a qual o direito não consegue imediatamente obter respostas, o caminho a percorrer para obter uma solução será inevitavelmente socorrer-se à analogia. Portanto, e uma vez que inexiste um regime específico a doutrina tem procurado encontrar uma solução legal dentro do regime já existente, de modo a colmar a problemática da responsabilidade existente decorrente da utilização de sistemas dotados de IA. Com vista a tutelar o lesado em caso de dano causado por agentes autónomos inteligentes, surgem diversas propostas no nosso ordenamento jurídico, ainda que padeçam de algumas fragilidades, compreendidas no domínio da responsabilidade civil subjetiva e responsabilidade civil objetiva. São estas: aplicação do regime de presunções, da responsabilidade pelo risco e da responsabilidade do produtor. No que concerne à aplicação do regime das presunções, propor-se-á que associado a um ente dotado de IA exista um dever de vigilância, uma vez que é a máquina vista como um escravo234, 233 BARBOSA, Mafalda Miranda – Ainda o futuro da responsabilidade civil pelos danos causadas por sistemas de IA. Revista de Direito da Responsabilidade . Coimbra. ISSN 2184-4542. Ano 5, (2023), pp. 358, disponível para consulta em https://revistadireitoresponsabilidade.pt/2023/ainda-o-futuro-da-responsabilidade-civil-pelos-danos-causados-por-sistemas-de-ia-mafalda-mirandabarbosa/ (consultado em 22/10/2023). 234 ALMEIDA COSTA, Mário Júlio de - Direito das Obrigações, 12.ª ed. (reimpressão 2020). Coimbra: Almedina, 2018, ISBN: 9789724088310, p. 616. 85 conformes ou desconformes com a realidade jurídica. Pelo que, concluir-se-á que o sistema jurídico português dispõe das bases necessárias a uma boa protec!ão dos direitos do utente, desde logo porque tanto o RRCEE, como a legislac!ão avula, estatuem regras que, quando adequadamente interpretadas, são capazes de satisfazer as pretensões indemnizatórias do utente lesado. Outrossim, cumpre-nos, a título de conclusão, referir que, no nosso entender, não é, nem nunca foi, intenção do Legislador penalizar o Hospital ou o médico propriamente dito com o Regime de Responsabilidade Civil Extracontratual, antes, devendo, como sempre o fizemos, interpretá-lo como o regime de efetiva responsabilização de hospitais e médicos enquanto incentivo a um melhor desempenho dos serviços de saúde e não obstinação em erros anteriormente praticados. No entanto, tudo o que até aqui se tratou é um problema existente, que agora se capricha e sobre o qual surgem ainda mais dúvidas, uma vez que agora se colocam questões quanto ao instituto da responsabilidade civil por força do uso cada vez mais frequente de Inteligência Artificial nesta área. Como vimos, as inovações tecnológicas têm permitido uma ascensão fugaz do uso da IA nas soidades modernas e todas as áreas sem exceção têm sofrido uma grande inovação, por força da Inteligência Artificial, enquanto revolucionária dos nossos dias, razão pela qual interpreto o esforço patente na presente dissertação como um ponto de partida à descoberta de novas dimensões, enumerando vantagens e desafios concernentes ao uso da IA numa área tão crucial, como é a Saúde, mormente, como é nosso interesse primordial, no domínio público (administrativo), uma vez que o Direito confronta novas realidades, porém, ainda tateia, no escuro, procurando instrumentos adequados à sua boa regulação para uma eficiente aplicação. Cabe ao Direito, porém, enquanto ciência, acompanhar os factos e a sociedade, não manietando o avanço tecnológico, pois, certo é que há ainda um longo caminho a percorrer, nomeadamente devido à a dificuldade inerente à aplicação do instituto da responsabilidade civil com IA, bem como ver solucionadas questões como a atribuição de personalidade jurídica aos entes dotados de IA como meio para a responsabilização, entre outros desafios inerentes e melhor concretizados no âmbito da presente dissertação. Como vimos, é indiscutível que a IA na área da medicina compreende inúmeras vantagens, nomeadamente, otimização nos tratamentos dos pacientes, reduzindo o tempo destes no internamento, superação do envelhecimento das sociedades, auxílio aos clínicos na formulação de um diagnóstico viável e célere através da capacidade destes sistemas para analisar avultados 86 dados, maior grau de precisão nas intervenções cirúrgicas, melhoria da gestão logística e financeira, na gestão de custos, entre outros convenientemente enumerados. Em súmula, concluiu-se que as aplicações de IA possam reduzir os custos associados aos cuidados de saúde, em virtude de apostar mais no processo de prevenção e previsão de doença, e, por consequência, os diagnósticos serem mais precoces, permitindo um acompanhamento mais personalizado, resultando, assim, na redução de hospitalizações e número reduzido de tratamentos. Por outro lado, cumpre não olvidar que existem também desafios inerentes, e que nem tudo é um mar de rosas, como se dirá na gíria, visto que, de acordo com autores e dados estudados no âmbito da presente dissertação, há várias implicações por parte dos desafios associados à implementação desses sistemas, acabando por criar barreiras que não favorecem a intenção de utilizar este tipo de tecnologia para melhorar a prestação de cuidado, desde logo, identificando-se como principais desafios a complexidade dos algoritmos introduzidos de IA, bem como a integridade e qualidade dos danos armazenados que podem, por vezes, gerar diagnósticos errados ou até tratamentos tendenciosos. Neste ensejo, perante o drástico e veloz crescente impacto da IA na nossa sociedade, no paradigma atual, de facto, não encontramos ainda uma previsão legal direta e estável que ponha termo às questões inerentes e aos desafios levantados, razão pela qual a doutrina tem procurado, direta ou analogicamente, uma solução legal dentro do regime já existente. Posto isto, quanto à questão central, isto é, sobre como se processará a responsabilização no âmbito hospitalar público com o uso da IA, bem como se o médico humano pode ou deve ser substituído pelo médico robot , defendemos que os benefícios se sobrepõem aos desafios e que será difícil contrariar o impacto da IA na área da Saúde, sendo certo, porém, que o exercício da medicina por um médico humano tem inúmeras valências que escapam às capacidades dos sistemas à base de IA, não se devendo sobrepor uma robotização da medicina, desde logo porque existem um conjunto de requisitos específicos de responsabilidade, transparência, apreciação do processo clinico para posterior tratamento do utente, que são essenciais e que os médicos robots não se revelam mais eficientes que o médico humano. A postura por nós adotada situa-se num posicionamento misto de implementação da IA, na medida em que não rejeitamos a hipótese de o profissional de saúde ser “auxiliado” por estes agentes autónomos dotados de IA em certas tarefas, como realização de diagnóstico e posteriormente na escolha do tratamento mais adequado, mas não podemos ponderar a 87 substituição de profissionais de saúde pelos robôs dotados de IA, uma vez que não podemos considerar que estes são infalíveis. Do mesmo modo, defendemos que o médico não poderá simplesmente desconsiderar os conhecimentos científicos que aprendeu durante o seu ciclo de estudo e prática no exercício da profissão, pelo que, se o médico desconsiderar tais conhecimentos em função dos resultados obtidos por sistemas de IA, deve ser, nestes casos concretos, responsabilizado. Por isso, a utilização de IA na área da medicina, na nossa modesta opinião, servirá para operar enquanto ferramenta auxiliar dos médicos humanos, ajudando-os a desempenhar o seu trabalho, atento as vantagens já supra enumeradas, jamais substituindo a medicina tradicional, não sendo concebível, no nosso modesto entendimento, um medico robot substituir um médico humano. Posto isto, daqui em diante, é premente e fundamental continuar a desenvolver estudos que correlacionem as duas áreas, e, como tal, o Governo criar condições promover a alfabetização e literacia dos cidadãos, almejando aprofundar o conhecimento – sobretudo ético -, desmistificar questões, alertando para os impactos desta tecnologia nesta área, concretamente, nos direitos, liberdades e garantias, acompanhando, neste ensejo, a visão da Comissão Europeia para a literacia digital e transformac!ão digital da Europa até 2030 e, desse modo, compreender o caminho que é necessário trilhar para contornar os desafios que obstam à aplicação da IA na área da saúde, mas nunca com o objetivo de substituição da medicina tradicional, antes de auxilio e entreajuda com vista a melhorar os cuidados de saúde a prestar aos utentes. Assim, somos da opinião que exista uma relação entre o profissional de saúde e os sistemas dotados de IA, potencializando o melhor de cada um, almejando o objetivo pretendido: a cura do doente. Sendo certo que, para efeito de responsabilização, não colhemos a ideia de que deve o médico eximir-se da sua responsabilidade apenas e só por ter o auxílio de um sistema dotado de IA, pois, claramente, nunca o profissional de saúde pode confiar cegamente num sistema dotado de IA, abdicando e desconsiderando os conhecimentos científicos e especializados que obteve, essencialmente, no decurso do seu percurso académico. Por esta razão, a médio e longo prazo, prezamos pela criação de instrumentos jurídicos capazes de promover um sistema de estudo e prevenção do erro médico, especialmente pelo uso de IA. 88 BIBLIOGRAFIA ABBOTT, Ryan, “I Think, Therefore I Invent: Creative Computers and the Future of Patent Law”, Boston College Law Review Vol. 57, Issue 4, 2016. ALFONSECA, M., CEBRIAN, M., ANTA, A. F., COVIELLO, L., ABELIUK, A., & RAHWAN, I., “Superintelligence Cannot be Contained: Lessons from Computability Theory”, Journal of Artificial Intelligence Research, 2021. ALMEIDA COSTA, Mário Júlio de - Direito das Obrigações . 12.ª ed. (reimpressão 2020). Coimbra: Almedina, 2018. ALMEIDA, Carlos Ferreira de – Os contratos Civis de Prestação de Serviço Médico. Lisboa: AAFDL, 1996. ALMEIDA, MÁRIO AROSO DE - Artigo 9.º - Ilicitude, in Comentário ao Regime da Responsabilidade Civil Extracontratual do Estado e demais Entidades Públicas. Lisboa: Universidade Católica Editora, 2013. ALMEIDA, Mário Aroso de - Teoria Geral do Direito Administrativo . 3.ª ed. Coimbra: Almedina, 2015. AMARAL, Diogo Freitas do - Curso de Direito Administrativo. Volume II, com a colaboração de Pedro Machete e Lino Torgal, 3ª ed. Coimbra: Almedina. AMARAL, Diogo Freitas do – Natureza da Responsabilidade Civil por Actos Médicos Praticados em Estabelecimentos Públicos de Saúde. Lisboa: Lex, 1991. AMARAL, DIOGO FREITAS DO — A Responsabilidade da Administração no Direito Português. Revista da Faculdade de Direito da Universidade de Lisboa . Lisboa. Vol. XXV (1973). AMORIM, Ana - A responsabilidade do médico enquanto perito . Coimbra: Petrony Editora, 2019. ANDRADE, José Carlos Vieira de – A responsabilidade por danos decorrentes do exercício da função administrativa na nova lei sobre a responsabilidade civil extracontratual do Estado e demais entes públicos. Revista de Legislação e Jurisprudência. Coimbra, n.º 3.951, (Julho/Agosto 2008). ANTÓNIO, Isa - A responsabilidade da Administrac!ão Pública por atos médicos. Porto: Universidade Católica do Porto, 2008, (dissertação de mestrado). ANTÓNIO, Isa – A responsabilidade do Estado por actos médicos: entre a "présomption de faute" 89 francesa e a "objectivização" espanhola – breve resenha comparativa: uma convergência de regimes? Revista da Faculdade de Direito da Universidade Lusófona do Porto , Vol. 02, n.º 02. (2013). ANTÓNIO, Isa – Direito à Saúde: Dilemas Atuais. 1ª edição. Curitiba: Juruá Editora, 2017. ANTÓNIO, Isa – Os cuidados de saúde transfronteiriços: problemática em torno do “erro médico”. UNIO – EU Law Journal. Braga: Escola de Direito da Universidade do Minho. Vol. 2, n. º2 (Junho de 2016). Disponível para consulta em: https://revistas.uminho.pt/index.php/unio/article/download/305/307/595. António, Isa; Borges, Patrícia Sousa (Organização) - Colectânea de Legislação de Direito da Saúde e Bioética, Lisboa: Quid Iuris, 2022. ANTUNES VARELA, João de Matos - Das obrigações em geral , 10.ª edição, Vol. I. Coimbra: Almedina, 2000. ANTUNES, Henrique Sousa – Direito e Inteligência Artificial. Universidade Católica Editora, Junho de 2020. ANTUNES, Henrique Sousa – Inteligência Artificial e Responsabilidade Civil: Enquadramento. Revista de Direito da Responsabilidade. Coimbra. Número 1 (2019). Disponível para consulta em: https://revistadireitoresponsabilidade.pt/2019/inteligencia-artificial-e-responsabilidade-civilenquadramento/. ANTUNES, Luís Filipe Colaço – A Ciência Jurídica Administrativa , com a colaboração de Juliana Ferraz Coutinho. Coimbra: Edições Almedina, 2020. ANYOHA, Rockwell, “Can Machines Think?” SITN, Harvard University, 2017. ASAN, Onur [el. al.] - Artificial Intelligence and Human Trust in Healthcare: Focus on Clinicians. In Journal of Medical Internet Research. Vol. 22, Issue 6 (19 de Junho de 2020). JMIR Publications Inc. Disponível para consulta em https://www.jmir.org/2020/6/e15154/ (consultado em 12/10/2023). BARBOSA, Mafalda Mirada – Inteligência artificial, entre a utopia e a distopia, alguns problemas jurídicos , Coimbra: Gestlgal, 2021. BARBOSA, Mafalda Miranda – Ainda o futuro da responsabilidade civil pelos danos causadas por sistemas de IA. Revista de Direito da Responsabilidade . Coimbra. Número 5 (2023). BARBOSA, Mafalda Miranda – Inteligência artificial, e-persons e direito: desafios e perspetiva. Revista Jurídica Luso-Brasileira . Lisboa. Ano 3, n. º6 (2017). 90 BARBOSA, Mafalda Miranda – O Futuro da Responsabilidade Civil desafiada pela Inteligência Artificial: as dificuldades dos modelos tradicionais e caminhos de solução. Revista de Direito da Responsabilidade. Coimbra. Ano 2 (2020). BARBOSA, Mafalda Miranda [ et al ] - Direito Digital e Inteligência Artificial [ em linha ]. São Paulo: Editora Foco, 2021. BARRA, Tiago Viana – A Responsabilidade Civil Administrativa do Estado. Revista da Ordem dos Advogados . Lisboa. Volume I (2011). BASTOS, Matilde de Freitas Barbosa Oliveira – A Responsabilidade Civil administrativa por atos médicos praticados em hospitais públicos do Serviço nacional de Saúde, com a orientação de Juliana Ferraz Coutinho e coorientação da Professora Doutora Rute Teixeira Pedro. Porto. Faculdade de Direito da Universidade do Porto, Setembro de 2021, (dissertação de Mestrado). BOHR, Adam e MEMARZADEH, Kaveh -The rise of artificial intelligence in healthcare applications. I n Artificial Intelligence in Healthcare. Denmark: Elsevier, 2020. Disponível para consulta em https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7325854/pdf/main.pdf. CADILHA, Carlos - Regime da Responsabilidade Civil Extracontratual do Estado e demais entidades públicas - Anotado, 2.ª Edição. Coimbra: Coimbra Editora, 2011. CADILHA, Carlos – O novo regime de responsabilidade civil do Estado e demais entidades públicas pelo exercício da função administrativa. Revista do CEJ . Lisboa. 1.º Semestre, n.º 11 (2009). CALVÃO DA SILVA, João - Responsabilidade Civil do Produtor . Coimbra: Almedina, 1999. CAMPOS, Juliana – A responsabilidade civil do produtor pelos danos causados por robôs inteligentes à luz do regime do DL 383/89, de 06 de Novembro. Revista de Direito da Responsabilidade. Coimbra . Ano 1 (2019). CHOPRA, Samir e WHITE, Laurence F. - A Legal Theory for Autonomous Artificial Agents . Reino Unido, University of Michigan Press, 2011. CORREIA, José Manuel Sérvulo – As relações jurídicas administrativas de prestação de cuidados de saúde. Revista Brasileira de Direitos Fundamentais & Justiça , Volume 3, n.º7, (2009). CORTEZ, Margarida – Responsabilidade Civil da Administrac ! ão por Actos Administrativos Ilegais e Concurso de Omissão Culposa do Lesado . Coimbra: Coimbra Editora, 2000. COUTINHO, Diana, BARROS, Marisa, RODRIGUES, Sofia – Direito e Medicina: Novos e velhos desafios na comunicação de más-noticias: uma perspetiva médico-legal. In E.Tec YearbookHealth Law and Technology. 2019. 91 CUNHA, Gonçalo Batista Ribeiro da – A inteligência Artificial no exercício da função judicial: de juiz humano a juiz robôt . Braga: Universidade do Minho, Abril de 2022 (dissertação de Mestrado). DESTEPHE, Matthieu [et al] – “Walking in the uncanny valley: importance of the attractiveness on the acceptance of a robot as a working partner”. Front Psychol. DIAS, João Álvaro - Procriação assistida e Responsabilidade Médica , BFDUC. Coimbra: Coimbra Editora, Abril de 1996. DIAS, João Álvaro – Culpa médica - algumas ideias. Revista Portuguesa do Dano Corporal , n.º5, ano IV. ESPERANÇA PINA, José António Rebocho - A Responsabilidade dos Médicos , 3ªed. Lisboa: Lidel, 2003. FERREIRA DE ALMEIDA, Carlos – Os Contratos Civis de Prestac!ão de Servic!o Médico in Direito da Saúde e da Bioética . Lisboa: AAFDL, 1996. FERREIRA, Manuel Cavaleiro de - Direito Penal Português (parte geral), Vol. I. Lisboa: Verbo, 1981. FILIPP, Fabian - Opportunities for Artificial Intelligence in Advancing Precision Medicine. Current Genetic Medicine Reports . Vol. 11 (2019). Disponível para consulta em https://link.springer.com/article/10.1007/s40142-019-00177-4#citeas. FONSECA, Gonçalo Correia – Responsabilidade Administrativa à luz do paradigma da boa administração, com orientação de Juliana Ferraz Coutinho. Porto. Faculdade de Direito da Universidade do Porto, 2017 (dissertação de Mestrado). FRANCESCO PAPPALARDO [et al.], “ In silico clinical trials: concepts and early adoptions ”, Briefings in Bioinformatics , vol. 20, n.º5, 2019. GASPAR, António Silva Henriques - A Responsabilidade Civil do Médico , in Coletânea de Jurisprudência , Ano III, 1978. GERKE, Sara [et. al.] - Ethical and legal challenges of artificial intelligence - driven healthcare, in BOHR, Adam e MEMARZADEH, Kaveh - Artificial Intelligence in Healthcare. Denmark: Elsevier Inc, 2020. Disponível para consulta em https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7332220/pdf/main.pdf . GIGENA, Júlio l. Altamira - Responsabilidad del Estado. Buenos Aires, Argentina: Editorial Astrea de Rodolfo Depalma y Hnos, 1973. GILVARY C, MADHUKAR N, ELKHADER J, ELEMENTO, Olivier. The Missing Pieces of Artificial Intelligence in Medicine. Trends in pharmacological sciences , 2019. 92 GOMES, Carla Amado – Textos diversos sobre direito da responsabilidade civil extracontratual das entidades públicas . Lisboa: AAFDL, 2010. GOMES, Carla Amado Gomes - Riscando a culpa do mapa da responsabilidade civil extracontratual das entidades públicas?. Revista CEJ, n.º 2, Lisboa, (2014). GONÇAVES, Carla – A responsabilidade médica objetiva in Responsabilidade Civil dos Médicos . Coimbra: Coimbra Editora, Faculdade de direito da Universidade de Coimbra, Centro de Direito Biomédico, 2005. HALLEV, Gabriel - “The Criminal Liability of Artificial Intelligence Entities — From Science Fiction to Legal Social Control”, Akron Intellectual Property Journal, 2010. Inteligência Artificial, Harvard Business Review – Visões Fundamentais. Lisboa: Actual Editora, Julho de 2020. JAJAL, Tannya D - Distinguishing between Narrow AI, General AI and Super AI . KHALIL, Islam [et al.] - IEEE Robot Autom Lett . Volume 3, n. º2 (2018). Páginas 1112-1119. LARSON, Jeff [ et al ] - “How We Analyzed the COMPAS Recidivism Algorithm”, ProPublica [online], 22 de maio de 2016. LEIBNIZ, G. W., “Princìpi ed esempi della scienza generale”, Scritti di logica, Milano, Mondadori, 2009. LEITÃO, Luís Manuel Teles de Menezes - Direito das Obrigações , 11.ª Edição, Vol. I. Coimbra: Almedina, 2014. LEMOS, André - Cibercultura: Tecnologia e vida social na cultura contemporânea. Ucrânia : Editora Sulina, 2023. MANNING, Christopher - Artificial Intelligence Definition, Stanford University human-centered artificial intelligence. Setembro, 2020. MARQUES MARTINS MARGARIDO, Inês Tomás – A medicina do futuro nos dias de hoje: Aplicação da Inteligência Artificial. Lisboa: Universidade de Lisboa. Março de 2020 (trabalho Final Mestrado Integrado em Medicina). MARTINEZ-CALCERRADA, Luiz, MONTERO, Rircardo de Lorenzo y, SUÁREZ, José María ÁlvarezCienfugos - Derecho médico – Tratado de Derecho Sanitário, Tomo I. Madrid: Colex, 2001. MEDEIROS, Rui - Artigo 10.º - Culpa, in Comentário ao Regime da Responsabilidade Civil Extracontratual do Estado e demais Entidades Públicas. Lisboa: Universidade Católica Editora, 2013. 93 MENDES, Pedro Manuel Pimenta – Inteligência Artificial e Responsabilidade Civil: As Possíveis Soluc!ões do Ordenamento Jurídico Português. Revista de Direito da Responsabilidade. Coimbra . Ano 2 (2020). MENEZES CORDEIRO, António, OLIVEIRA, Ana Perestrelo de, PEREIRA DUARTE, Diogo, (coord.) - FinTech : Desafios da Tecnologia Financeira . Coimbra: Almedina, 2017. MONIZ, Ana Raquel Gonçalves - Algumas questões sobre responsabilidade civil médica da Administração. CJA, n.º 50, Marc!o/Abril 2005. NETO, Nuno Eduardo Freitas Devesa - A inteligência Artificial no seio do Corporate Governance: O impacto da inteligência artificial no órgão de administração das sociedades anónimas. Coimbra: Faculdade de Direito da Universidade de Coimbra, 2021 (dissertação de Mestrado). OLIVA, Antonio [ et al ] - Management of Medico-Legal Risks in Digital Health Era: A Scoping Review. Front Med (Lausanne) , Vol. 8 (2022). OLIVEIRA, Guilherme – Estrutura Jurídica do Acto Médico, Consentimento Informado, in Temas de Direito da Medicina . Coimbra: Coimbra Editora, 2005. OLIVEIRA, Joaquim Belchior Dias Vieira Monteiro de - O erro médico nas instituições públicas de saúde, com orientação de Filipa Urbano Calvão. Porto: Escola de Direito do Porto da Universidade Católica Portuguesa, 2013 (dissertação de Mestrado). PEDRO, Rute Teixeira - A Responsabilidade Civil do Médico - Reflexões sobre a noção da perda de chance e a tutela do doente lesado . Coimbra: Coimbra Editora, Centro de Direito Biomédico da Faculdade de Direito da Universidade de Coimbra, 2008. Pereira, André Dias, O Consentimento Informado Na Relação Médico-Paciente: Estudo do Direito Civil, Centro de Direito Biomédico, 9, Coimbra Editora, Coimbra, 2004. PEREIRA, André Gonçalo Dias - Direitos dos Pacientes e Responsabilidade Médica. Coimbra: Faculdade de Direito da Universidade de Coimbra, 2012, (dissertação de doutoramento em ciências jurídico-civilísticas). PEREIRA, André Gonçalo Dias – As declarações de responsabilidade no setor da saúde. A independência das ordens profissionais (re)pensar o direito administrativo. Boletim da Ordem dos Advogados, n. º35, Maio-Setembro de 2022. PEREIRA, André% Gonçalo Dias – Breves Notas Sobre a Responsabilidade Médica em Portugal. Revista Portuguesa do Dano Corporal. Número 17, Ano XVI (2007). PEREIRA, André% Gonçalo Dias – Responsabilidade Civil em Saúde e Violação do Consentimento 94 informado na jurisprudência portuguesa recente. Revista JULGAR , n.º 42. Almedina, (2020). PINA, J.A. Esperança – A responsabilidade dos Médicos , 3.ª edição. Lisboa: LIDEL, 2003. PIRES DE LIMA e ANTUNES VARELA - Código Civil: Anotado , vol. II, 4.ª ed. Coimbra: Coimbra Editora, 1987. RAJKOMAR, Alvin [et al] - Ensuring Fairness in Machine Learning to Advance Health Equity, Annals of Internal Medicine . DOI: 0.7326/M18-1990. Volume 169, n.º 12 (2018). RAPOSO, Vera Lúcia - Do ato médico ao problema jurídico , 1.ª Edição. Coimbra: Almedina, 2013, p. 31. RIBEIRO, Ricardo Lucas - Obrigações de meios e obrigações de resultado . Coimbra: Coimbra Editora, 2010. RODRIGUES, Álvaro da Cunha - Responsabilidade Médica em Direito Penal (Estudo dos Pressupostos Sistemáticos). Coimbra : Almedina, 2007. RODRIGUES, Álvaro da Cunha – Reflexões em Torno da Responsabilidade Civil dos Médicos Direito e Justiça. Revista da Faculdade de Direito da Universidade Católica Portuguesa, Vol. XIV, Tomo III (2000). RODRIGUES, Álvaro da Cunha Gomes - Responsabilidade Civil por Erro Médico: Esclarecimento/ / Consentimento do Doente. Data Venia . Ano 1, N.º01 (Julho-Dezembro de 2012), disponível para consulta em https://www.datavenia.pt/ficheiros/pdf/datavenia01.pdf . RODRIGUES, Álvaro da Cunha Gomes – Responsabilidade Civil por Erro Médico: Esclarecimento/ Consentimento do Doente . Data Venia , Ano 1, n.º 01, Julho - Dezembro (2012). ROQUE, Miguel Prata - O Nascimento da Administrac!ão Eletrónica num Espac!o Transnacional (Breves notas a propósito do projeto de revisão do Código do Procedimento Administrativo). ePública . Lisboa. n.º 1 (2014). SERVIÇO NACIONAL DE SAÚDE - “Transição Digital na Saúde”, in Noticias de Saúde, 19 de Abril de 2023, disponível para consulta em https://www.sns.gov.pt/noticias/2023/04/19/transicaodigital-na-saude-2/. SILVA, Artur Flamínio da – Inteligência Artificial e Direito Administrativo, in Direito Administrativo e Tecnologia . 3.ª Edição. Coimbra: Almedina, 2023. SILVA, Eva Sónia Moreira da e FREITAS, Pedro Miguel – Inteligência Artificial e Robótica, Desafios para o Direito do Século XXI. 1.ª edição. Coimbra: GESTLEGAL, 2022. SILVA, Nuno Sousa e - Direito e robótica: uma primeira aproximac ! ão. Revista da Ordem dos