A NOVA FACE DA VIGILÂNCIA: ASSISTENTES VIRTUAIS E OS DESAFIOS À PRIVACIDADE

270 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS A NOVA FACE DA VIGILÂNCIA: ASSISTENTES VIRTUAIS E OS DESAFIOS À PRIVACIDADE Cildo Giolo Júnior1 Marcelo Toffano2 Guilherme de Sousa Cadorim3 1 INTRODUÇÃO O avanço da tecnologia e a crescente digitalização da sociedade têm proporcionado transformações profundas nos modos de interação, comunicação e consumo de informações. A popularização dos assistentes virtuais, como Alexa e Google Assistant, reflete a introdução da inteligência artificial no cotidiano das pessoas, promovendo facilidades e otimizando diversas tarefas. Entretanto, esse avanço 1 Pós-Doutor em Direitos Humanos pelo “Ius Gentium Conimbrigae” (IGC/CDH) da Faculdade de Direito da Universidade de Coimbra (Portugal). Doutor em Direito pela Universidade Metropolitana de Santos, Santos - São Paulo (Brasil). Doctor em Ciencias Jurídicas y Sociales pela UMSA, Buenos Aires - Capital Federal (Argentina). Mestre em Direito Público pela Universidade de Franca. Graduado em Direito pela Faculdade de Direito de Franca. Professor Titular de Direito Civil na Faculdade de Direito de Franca. Professor Efetivo de Direito Processual Civil na Universidade do Estado de Minas Gerais. Advogado. E-mail: [email protected] Currículo lattes: http://lattes.cnpq.br/9079687915501476 OrcID: https://orcid.org/0000-0002-8236-2042 2 Possui graduação em Direito pela Universidade de Franca (2001), possui especialização “lato sensu” pela Universidade de Franca (2003) e mestrado em Direito (Área de Concentração: Direito das Relações Econômico-empresariais) pela Universidade de Franca (2006). Doutorado em Direito (Área de Concentração: Função Social no Direito Constitucional) pela Faculdade Autônoma de Direito - FADISP (2014-2018). Atualmente é professor titular da Faculdade de Direito de Franca, é orientador de alunos que necessitam realizar o Trabalho de Curso. Tem experiência na área de Direito atuando como advogado desde 2002. E-mail: marcelo.toffano@ direitofranca.br Currículo lattes: http://lattes.cnpq.br/9071643422191164 OrcId :https:// orcid.org/0000-0003-4875-6475 3 Mestrando em Direito pela Faculdade de Direito de Franca (FDF) (2024-2026); PósGraduação em Direito Digital pela Faculdade Legale (2022-2024); Lei Geral de Proteção de Dados pela Faculdade Legale(2021-2022); Direito Constitucional Aplicado pela Faculdade Legale(2021-2022); Direito e Proteção do Consumidor pela Faculdade Damásio(2018-2019); Direito Processual Civil Empresarial pela Faculdade de Direito de Franca(FDF)(20162018); Advogado. E-mail: [email protected] Currículo lattes: http://lattes.cnpq. br/7429818502807689 OrcID: https://orcid.org/0000-0003-3405-718X Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 271 ISBN 978-65-01-67777-4 tecnológico levanta preocupações acerca da privacidade e do controle sobre os dados pessoais, configurando um cenário em que a coleta e o uso dessas informações tornam-se uma questão crítica para os direitos fundamentais. A presente pesquisa se propõe a analisar o fenômeno dos assistentes virtuais sob a perspectiva do chamado “capitalismo de vigilância”, conceito cunhado por Shoshana Zuboff para descrever o modelo econômico baseado na coleta massiva de dados pessoais e na predição comportamental. A problemática central do estudo reside na interseção entre inovação tecnológica e privacidade, questionando-se até que ponto o uso dessas tecnologias representa uma nova forma de vigilância que pode comprometer a autodeterminação informacional dos indivíduos. O estudo busca responder se o uso ostensivo dos assistentes virtuais pode configurar um mecanismo de monitoramento e controle social e quais seriam as implicações éticas e jurídicas desse fenômeno para a sociedade contemporânea. A justificativa para a realização desta pesquisa encontra respaldo na necessidade premente de compreender as transformações causadas pelo avanço das tecnologias digitais e seus impactos sobre direitos fundamentais. A expansão da Internet das Coisas (IoT) e o crescimento exponencial da inteligência artificial tornam essencial o debate sobre os limites éticos e jurídicos da coleta e do tratamento de dados pessoais. Além disso, a carência de regulamentações claras sobre o uso dessas tecnologias reforça a necessidade de estudos que promovam um olhar crítico sobre a relação entre inovação e privacidade, possibilitando a construção de políticas públicas mais eficazes na proteção dos indivíduos diante desse novo paradigma. Os objetivos desta pesquisa podem ser divididos em dois eixos principais: teórico e prático. No âmbito teórico, busca-se compreender as bases conceituais do capitalismo de vigilância e sua relação com a privacidade na era digital, analisando a literatura pertinente ao tema. Já no eixo prático, pretende-se examinar casos concretos nos quais a utilização de assistentes virtuais resultou em questionamentos éticos e jurídicos, bem como avaliar as medidas legislativas existentes e as propostas de regulamentação para a proteção dos dados pessoais dos usuários. 272 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS Para alcançar tais objetivos, a metodologia adotada baseia-se no método dedutivo, partindo de premissas gerais sobre o funcionamento dos assistentes virtuais e do capitalismo de vigilância para, então, analisar casos específicos e propor soluções para os desafios identificados. A pesquisa será conduzida por meio de revisão bibliográfica e análise documental, considerando tanto a produção acadêmica já consolidada quanto relatórios, normativas e decisões judiciais que envolvem a temática. Além disso, serão examinados precedentes jurídicos internacionais, notadamente nos Estados Unidos, na Europa e Brasil, onde já existem regulamentações mais rigorosas sobre a proteção de dados e o uso da inteligência artificial. Dessa forma, o estudo visa contribuir para o debate sobre a privacidade na era digital, fornecendo subsídios para a compreensão crítica das implicações do uso de assistentes virtuais e para a formulação de políticas que garantam a proteção dos direitos fundamentais dos cidadãos frente às novas tecnologias. 2 A INTERNET DAS COISAS E OS ASSISTENTES VIRTUAIS Sem pretensão alguma de esgotar uma abordagem de conceitos informáticos próprios, para os fins elencados no presente estudo deve- -se compreender como internet das coisas (internet of things – IOT) a geração de coisas que - não se limitando ao computador, tablets, smartphones – de alguma forma, é capaz de se conectar à rede e realizar colheita de informações e/ou dados do ambiente (sensoriamento) e, posteriormente, oferecer interações no mundo físico (atuação, comando, controle) (Oliveira et al, 2018, p. 5166). Tratam-se, portanto, de dispositivos que, estando conectados à internet, podem de alguma forma projetar uma interação (output) após terem recebido determinado comando (input). Para exemplificar, imagine-se uma lâmpada que ao estar conectada à internet consegue ter informações sobre o horário (ou à uma determinada rotina previamente configurada) e, sem intervenção humana no interruptor, se (des)liga. Atualmente existe toda uma variedade de dispositivos capa- Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 273 ISBN 978-65-01-67777-4 zes de atuar desta forma (televisões, caixas de som, geladeiras, interruptores, tomadas, câmeras, ar condicionado, etc). Entre todos os dispositivos de internet das coisas, os que talvez mais se popularizaram e se fazem presentes em praticamente todos os lares são os assistentes virtuais ou assistentes conversacionais, como a popular Alexa e o Google Assistant. Tais aparelhos são capazes, por intermédio de um comando de voz, de atentamente ouvir as instruções conversacionais transmitidas e realizarem uma série de atividades, das mais simples (como colocar um alarme ou informar a previsão do tempo), até algumas ativar algumas rotinas complexas pré-programadas pelo indivíduo em sua casa conectada. O funcionamento deste processo de forma mais técnica, explicado pela própria Amazon (2024) é o seguinte: “quando você fala com a Alexa, uma gravação do que você solicitou é enviada à nuvem da Amazon para que os nossos sistemas de reconhecimento de fala e compreensão da linguagem natural possam processar e responder à sua solicitação”. A escolha do nome Alexa para este dispositivo, lançado oficialmente em 2014, e que chegou ao Brasil em 2019, segundo explicado por pessoas vinculadas à Amazon, remonta à reminiscência da biblioteca de Alexandria, na qual se acredita que – ainda que por algum tempo – ficaram as respostas de todas as perguntas (Bort, 2016). A ideia, portanto, era a de que o usuário poderia perguntar qualquer coisa que seria respondido, bastaria então iniciar o diálogo com a palavra de ativação, “Alexa”. O ponto nodal a respeito da discussão de ser este tipo de dispositivo, de alguma forma, (des)respeitador da privacidade – e de onde muitos parecem não querer partir – consiste justamente no sentido de que para poder ser detectada a palavra de ativação que iniciaria todo o predito processamento (“Alexa” ou “Ok, Google”), haveria o dispositivo de estar com seus microfones ligados e captando informações ostensivamente no ambiente em que instalado – tal como ocorria com a teletela da casa de Winston Smith. É ao que se dedica o presente estudo, após passadas as noções do que se deve compreender por privacidade e direito à privacidade na sociedade contemporânea, o que se fará na sequência. 274 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS 3 NOÇÕES ACERCA DO DIREITO À PRIVACIDADE O direito à privacidade nem sempre fora acessível a todos – como se crê que ocorre atualmente, sendo um privilégio, nos seus primórdios, reconhecido apenas à uma classe social em específico – a burguesia (Bolesina; De Moura Faccin, 2023). Ao contrário do que se verificava com os mais pobres, que precisavam de se amontoar todos em um único cômodo, sem privacidade alguma para os atos mais comezinhos (como dormir, realizar necessidades fisiológicas, vivenciar a própria sexualidade), os burgueses desejavam individualização, queriam se afastar do contato e interferência da sociedade e podiam vivenciar tal experiência em razão de seu poder econômico. Assim sendo, separando-se os cômodos e destinando-se determinados espaços para vivências específicas, tornou-se a casa a representação do reino da privacidade, espaço de autenticidade. Como preleciona Paula Sibilia (2013, p. 74),“el hogar se fue transformando em el território de la autenticidade y de la verdad: [...] donde estaba permitido ser uno mismo”. Neste sentido é que surge à vinculação lógica de privacidade ao lar, enquanto ambiente particular (quase que sagrado), no qual, em razão do poder econômico e direito de propriedade, não se pode haver interferências, devendo ser respeitado o isolamento ou a tranquilidade dos que ali se encerravam. No âmbito de uma visão simplista, foi por conta disto que privacidade veio a ser - por longo período - compreendida como qualidade daquilo que é privado/particular; relativo à vida privada; estado ou condição livre de atenção e/ou ingerência pública; atinente ao ambiente de sossego e recolhimento (que inclusive a casa ou outro ambiente particular oferecia). Não se trata de concepção de todo equivocada, mas que não deve ser restringida desta forma, mormente diante do contexto tecnológico ora vivenciado, o qual irrompe com diversos destes aspectos, indo muito além do isolamento ou da tranquilidade. Do ponto de vista de uma construção jurídica memorável, tem-se notícia de que o direito à privacidade foi tratado mais siste- Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 275 ISBN 978-65-01-67777-4 matizadamente por Samuel D. Warren e Louis D. Brandeis, autores do artigo “The Right to Privacy”, publicado originalmente em 15 de dezembro de 1890 pela Harvard Law Review, volume IV, número 5. Predito artigo parte da preocupação destes autores em encontrar, no common law, instituto que pudesse proteger a privacidade em face das mudanças políticas, sociais e econômicas que estavam se operando na época, mormente após a percepção de que a imprensa de Boston teria exagerado ao publicar informações reservadas sobre o casamento da filha do senador Samuel D. Warren. Mencionam, partindo de uma concepção materialista, que invenções e métodos de negócios conclamavam a atenção da sociedade para os próximos passos que deveriam ser dados para a proteção da pessoa e para assegurar ao indivíduo o que se chamaria de direito de “ser deixado em paz” (the right to be let alone), visando evitar a materialização da profecia de que aquilo que fosse sussurrado no armário seria proclamado dos telhados (Warren; Brandeis, 2017, p. 3). Atualmente, o sugerido é que se pense e discuta o direito à privacidade pautado pela noção de inserção na sociedade em rede, de Manuel Castells, assim compreendida como sendo a “estrutura social baseada em redes operadas por tecnologias de comunicação e informação fundamentadas na microeletrônica e em redes digitais que geram, processam e distribuem informação” (Castells, 2005, p.19). O surgimento destes sistemas eletrônicos de comunicação e informação, mormente a internet, tanto pela sua amplitude e alcance global, como pela sua potência de integração nos diferentes meios sociais alteraram para sempre a nossa cultura. O que se verifica, portanto, é que a “privacidade, murada e sacralizada pela modernidade como algo a ser usufruído no lar, cede lugar ao campo da visibilidade do ser, intermediado pelas novas tecnologias” (Maicá, 2018, 36) e isso propugna mais do que nunca que deixe de se analisar os conceitos sob a ótica do recato e do isolamento. Sua concepção e conformação são, pelo contrário, mutáveis e adaptáveis à realidade social na qual, eventualmente, se encontre inserida (Bolesina, 2017), e isto se deve porque, embora sempre traga consigo a ideia nuclear de “estar só” (the right to be let alone), não se esgota nisso, já que cada indivíduo possui sua própria ideia e compre- 276 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS ensão do que seria privacidade e até onde ela deveria se fazer presente nas coisas mais cotidianas e diversas. Tem-se deste modo a concepção de que fazer uma análise conceitualista de privacidade e direito à privacidade - como talvez historicamente feito até então – de repente possa não corresponder ao melhor caminho para sua tutela, vez que ao elaborar esta conceituação, estar-se-á limitando o referido direito aos seus conceitos (positivados ou não) e assim, por conseguinte, “desprotegendo toda e qualquer situação que estivesse fora dele” (Maicá, 2018, p.20). Desta forma, considerando a pulverização das redes sociais e o imensurável trânsito de informações pessoais nelas, a privacidade atualmente deve ser compreendida como uma noção plural, democrática, que respeite e se atente à diversidade humana, em rol não taxativo, sendo conjunto de faculdades que dizem respeito às esferas identitárias e existenciais, em espaços físicos e virtuais. A privacidade deve ser compreendida como ligada à pessoa, portanto, um direito personalíssimo. O direito à privacidade, recentemente, necessita contemplar muito mais do que não ser importunado ou ter proteção da própria intimidade; deve corresponder, por exemplo, ao poder de autodeterminação informativa, isto é, direito de manter controle sobre as próprias informações pessoais, sua exatidão, a forma de seu tratamento, quem realizará (ou não) este tratamento e ainda sobre a maneira de como construir a própria esfera particular, evitando tanto quanto possível discriminação. Transfere-se então a privacidade para uma esfera de construção pessoal e não mais de uma conexão do indivíduo com determinado ambiente/local. Deve-se proteger a pessoa e não o que ocorre em determinados lugares com aquela pessoa. Delineado este conceito acerca da privacidade, a qual inclusive não é expressamente conceituada no ordenamento jurídico brasileiro (que prefere empregar conceitos como “vida privada” e/ou “intimidade”), tem-se que a privacidade corresponde a muito mais do que apenas estar só ou garantir-se um recato em determinados ambientes. Corresponde ao ato de identificar e respeitar exercícios da própria personalidade do indivíduo dentro daquilo que ele delimitar como íntimo a depender da sua forma de manifestação. Em sequência analisa- Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 277 ISBN 978-65-01-67777-4 -se casos em que este conceito de privacidade fora, de alguma forma, contrastado por uma assistente virtual. 3.1 A Relação entre Direito à Privacidade e os Assistentes Virtuais Considerando a realidade de que os assistentes virtuais, como a Alexa, realiza escuta ostensiva, já se afigura possível identificar situações nas quais o uso de tais gravações realizadas pelo dispositivo inclusive foram empregadas judicialmente ao redor do mundo tanto para absolver, como para condenar indivíduos de acusações criminais, sempre em meio ao debate da violação da privacidade. Na data de 21 de novembro de 2015, nos EUA, em sua residência na cidade Bentonville, James Bates recebia amigos – dentre os quais, Victor Collins – para assistir a um jogo de futebol. Após o fim da partida e de algumas cervejas, o anfitrião fora para seus aposentos, a fim de dormir, enquanto aqueles que ficaram foram para uma banheira de hidromassagem. No dia seguinte, a surpresa de Bates ocorreu ao ver o corpo desfalecido de Collins flutuando na banheira. Considerado suspeito do homicídio, Bates apenas conseguiu que as acusações contra ele fossem retiradas pela promotoria, após oferecer acesso aos dados de sua Alexa, o que evidenciou a tese de insuficiência de provas. Antes disso, a Amazon recusou fornecer os dados perante um mandado, objetando que isto violaria o direito à privacidade de seus consumidores, consagrado pela Primeira Emenda (Chavez, 2017). Por sua vez, em 2019, na Alemanha, o Tribunal Regional de Regensburg, juntando dados coletados do celular de um homem e as gravações da Alexa condenou um homem a 10 anos de prisão pelo homicídio de sua ex-namorada, por estrangulamento, durante ou logo após uma relação sexual. A assistente de voz, que estava no quarto da vítima, recebeu e gravou comandos do condenado pouco antes da meia-noite e depois de madrugada. Fora possível assim reconstruir o momento que o homem estava, inequivocamente, na cena do crime. A discussão acerca da privacidade, prevista na Seção 100d do Código de Processo Penal, fora colocada em segundo plano no caso por ter o magistrado ponderado a gravidade do crime perpetrado, figurando na 278 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS Seção 100b, bem como o interesse social de resolução sobrepujar o direito pessoal (Kummer, 2021). É importante que se destaque que, além das discussões processuais, também existem diversas outras situações atinentes à Alexa capazes de evidenciar repercussão e violação do direito à privacidade dos usuários já noticiadas: (a) um casal, nos EUA, narrou ter tido conversa mantida em sua residência gravada e enviada para um conhecido sem que eles soubessem (Agrela, 2018); (b) a Amazon, para evitar questionamentos de uma autoridade dos EUA, pagou indenização no importe de 23,4 milhões de euros por supostamente ter violado o Children’s Online Privacy Protection (COPPA), ao desobedecer disposição que permite aos pais exercer o direito de eliminar os dados dos filhos, mantendo dados confidenciais de voz, geolocalização (Lusa, 2023); (c) uma mulher que estava tendo suas conversas ouvidas, via drop in, em seu dispositivo Alexa, como se fosse uma escuta pelo ex-namorado que havia configurado a conta do aparelho anteriormente e ainda conseguia manter acesso à assistente mesmo após 2 anos(Moore, 2023). Todas estas situações são capazes de evidenciar que os assistentes virtuais, como a Alexa, de alguma forma, são capazes de interferir no exercício do direito à privacidade de seus proprietários, muitas vezes sem que estes sequer possuam a consciência dos riscos que estão assumindo ao ligá-la na tomada, já que de todos que fazem uso, apenas 10% das pessoas leem os termos de uso (Telles, 2020). 4 OS RISCOS INERENTES AO DIREITO FUNDAMENTAL À PRIVACIDADE DIANTE DE UMA SOCIEDADE DE VIGILÂNCIA 4.1 A Inteligência Alienígena nas acepções de Yuval Noah Harari Yuval Noah Harari, renomado historiador e autor de obras como Sapiens e Homo Deus, em entrevista no dia 24 de outubro de 2024, ao canal de podcast de Rich Roll no Youtube, introduz o conceito de “inteligência alienígena” ao discutir o impacto da inteligência artificial (IA) na sociedade. Segundo Harari (2024), essa nova for- Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 285 ISBN 978-65-01-67777-4 do comportamento dos usuários por meio de estratégias persuasivas implementadas em plataformas digitais. O design dos serviços online é projetado para maximizar a permanência dos indivíduos em determinados ambientes virtuais, capturando padrões de uso que servem para aprimorar algoritmos preditivos. Nesse sentido, Zuboff observa: “Quando você baixa sua ‘informação pessoal’, tem acesso ao palco, não aos bastidores: vê a cortina, não o mágico” (Zuboff, 2019, p. 701). Outro aspecto central da análise da autora é a relação entre capitalismo de vigilância e concentração de poder. Empresas que dominam grandes quantidades de dados comportamentais assumem uma posição privilegiada no mercado global, permitindo a implementação de sistemas de monitoramento massivo. Essa concentração de poder não apenas ameaça a autonomia individual, mas também gera riscos para as estruturas democráticas, pois governos e corporações podem utilizar esses mecanismos para vigilância e controle social. Como enfatiza Zuboff: A dominação da divisão da aprendizagem por parte do capitalismo de vigilância, o impulso impenitente do ciclo de despossessão, a institucionalização dos meios de modificação do comportamento [...] são, de fato, evidências de uma nova condição que ainda não foi domada pela lei. (Zuboff, 2019, p. 695). Diante desse cenário, a autora reforça a urgência de uma regulamentação rigorosa para conter os abusos do capitalismo de vigilância. Medidas legais devem garantir que os indivíduos tenham maior controle sobre seus dados pessoais, assegurando que a tecnologia sirva à sociedade de maneira ética e responsável. Além disso, Zuboff sugere que a conscientização sobre essas práticas deve ser ampliada, permitindo que os usuários compreendam as implicações da coleta de seus dados e reivindiquem maior transparência e proteção contra abusos corporativos. 286 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS O modelo de vigilância descrito representa um dos maiores desafios contemporâneos para a privacidade, a democracia e a autonomia individual. Com a crescente sofisticação das ferramentas de monitoramento e análise de comportamento, torna-se fundamental estabelecer novos limites éticos e jurídicos para equilibrar inovação tecnológica e direitos fundamentais. O desafio proposto pela autora é, portanto, definir caminhos para um futuro em que a informação e o conhecimento sejam utilizados para o benefício coletivo, e não como instrumentos de controle e exploração comercial. Não resta qualquer dúvida da necessidade de se tomar providências o quanto antes, principalmente âmbito legislativo, nas searas nacionais e internacionais, freando os efeitos da inteligência artificial utilizada nos assistentes virtuais, para que a privacidade, direito fundamental seja respeitada, assim como o correto tratamento o uso dos dados dos usuários. 5 CONCLUSÃO A crescente implementação dos assistentes virtuais e a ascensão da inteligência artificial consolidaram uma nova era da vigilância digital, impactando diretamente o direito fundamental à privacidade. Como explorado ao longo deste estudo, as big techs desempenham um papel central nesse contexto, promovendo um modelo econômico baseado na coleta massiva de dados comportamentais. A correlação entre o avanço tecnológico e a vigilância ubíqua reforça a necessidade de regulamentação e políticas públicas eficazes para mitigar os impactos negativos dessa transformação. O capitalismo de vigilância, conforme delineado por Shoshana Zuboff, estabelece um paradigma no qual a exploração dos dados excedentes dos usuários se torna uma prática dominante. Os assistentes virtuais, como a Alexa e o Google Assistant, exemplificam essa dinâmica ao operarem como dispositivos que, sob a justificativa de oferecer conveniência, capturam, analisam e compartilham informações sensíveis sem o devido conhecimento dos usuários. Como demonstrado, essa prática levanta sérias preocupações éticas e jurídicas, pois Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 287 ISBN 978-65-01-67777-4 altera o equilíbrio entre a inovação tecnológica e a autodeterminação informacional dos indivíduos. A influência da inteligência artificial sobre as estruturas políticas e sociais também se mostra uma questão relevante. Yuval Noah Harari adverte para o potencial da IA em remodelar a sociedade, criando formas de manipulação e controle nunca antes vistas. O risco não se limita à vigilância estatal, mas se estende ao uso corporativo desses dados para influenciar comportamentos de consumo, preferências políticas e até decisões individuais. O acesso a informações íntimas dos usuários permite que sistemas algoritmos prevejam e moldem ações futuras, muitas vezes sem que o indivíduo perceba a extensão dessa influência. Além disso, o problema da transparência no tratamento de dados evidencia a assimetria de poder entre as empresas e os usuários. Como mencionado, a grande maioria dos indivíduos não tem plena consciência da extensão da coleta de suas informações, tampouco do uso que é feito delas. Essa realidade reforça a necessidade de iniciativas de educação digital, permitindo que as pessoas compreendam melhor os riscos envolvidos no uso de assistentes virtuais e outras tecnologias conectadas à internet das coisas (IoT). O papel da legislação na contenção dos abusos das big techs se torna indispensável. O desenvolvimento de normas mais rígidas para a regulamentação da coleta, armazenamento e uso de dados pessoais pode minimizar os riscos da exploração indiscriminada dessas informações. A implementação de mecanismos de consentimento mais claros e acessíveis, bem como a fiscalização sobre o cumprimento das normas, representa um caminho essencial para garantir a proteção da privacidade digital. Nesse sentido, a concepção contemporânea de privacidade deve se distanciar da ideia tradicional de espaço de isolamento e se expandir para incluir o direito à autodeterminação informativa. O indivíduo deve ter o controle sobre quais dados serão coletados, de que forma serão utilizados e a possibilidade de revogar essa permissão sempre que desejar. Esse modelo de proteção fortalece não apenas os direitos individuais, mas também as bases democráticas, ao impedir a monopolização do conhecimento e da informação. Diante do exposto, conclui-se que a vigilância digital promovida pelos assistentes virtuais e pelo capitalismo de vigilância impõe 288 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS desafios significativos à privacidade e aos direitos humanos. A falta de regulamentação eficaz e a ausência de uma cultura de proteção de dados ampliam os riscos inerentes ao uso indiscriminado dessas tecnologias. Portanto, torna-se imprescindível que governos, sociedade civil e entidades reguladoras atuem de forma coordenada para estabelecer limites claros ao uso da inteligência artificial, assegurando que os avanços tecnológicos ocorram de maneira ética e respeitosa aos direitos fundamentais. Apenas dessa forma será possível equilibrar os benefícios da inovação com a preservação da autonomia e da privacidade dos cidadãos na sociedade digital. Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 289 ISBN 978-65-01-67777-4 REFERÊNCIAS AGRELA, Lucas. Amazon explica por que Alexa gravou e compartilhou conversa de casal. Exame. 28 mai. 2018. Disponível em: <https://exame.com/tecnologia/amazon-explica-por-que-alexa-gravou-e- -compartilhou-conversa-de-casal>. Acesso em: 24 fev. 2025. AMAZON. Ajuda e serviço de atendimento ao cliente. Disponível em: https://www.amazon.com.br/gp/help/customer/display. html?nodeId=GVP69FUJ48X9DK8V. 24 fev. 2025 BOLESINA, Iuri. O direito à extimidade: As inter-relações entre identidade, ciberespaço e privacidade. 1. ed. Florianópolis [SC]: Empório do Direito, 2017. BOLESINA, Iuri; DE MOURA FACCIN, Talita. Aspectos contemporâneos da privacidade: há um direito à extimidade?. Revista Da Faculdade De Direito Da Universidade Federal De Uberlândia, 50, n.2, p. 603–634. 2023. Disponível em: https://doi. org/10.14393/RFADIR-50.2.2022.51545.603-634 . Acesso em 27 abr. 2024. BORT, Julie. Amazon engineers had one good reason and one geeky reason for choosing the name Alexa. Business Insider. 12 jul. 2016. Disponível em <https://www.businessinsider.com/why-amazon-called-it-alexa-2016-7>. Acesso em: 24 fev. 2025. BRASIL. 2025. Disponível em: https://gov.br Acesso em: 24 fev. 2025. CASTELLS, Manuel. A sociedade em rede. 8. ed São Paulo: Paz e Terra, 2005. CHAVEZ, Nicole. Arkansas judge drops murder charge in Amazon Echo case. CNN, 30 nov. 2017. Disponível em: <https://www.cnn. com/2017/11/30/us/amazon-echo-arkansas-murder-case-dismissed/ index.html>. Acesso em: 24 fev. 2025 290 Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA JUSTIÇA GLOBAL E DIREITOS HUMANOS KUMMER, Wiebke. German court calls Alexa to the stand. Datenschutz notizen | News-Blog der DSN GROUP, 12 Fev. 2021. Disponível em: <https://www.datenschutz-notizen.de/german-court- -calls-alexa-to-the-stand-2028997/>. Acesso em: 24 fev. 2025 COECKELBERGH, Mark. Ética na Inteligência Artificial. São Paulo: UBU, 2023. FLORIDI, Luciano. A Ética na Inteligência Artificial: Princípios, Desafios e Oportunidades. Curitiba: PUCPRESS, 2024. HARARI, Yuval Noah. Human Nature, Intelligence, Power, and Conspiracies. [Entrevista concedida a] Lex Fridman. YouTube, 2024. Disponível em: . Acesso em: 25 fev. 2025. HARARI, Yuval Noah. Our AI Future Is WAY WORSE Than You Think. [Entrevista concedida a] Rich Roll. YouTube, 22 de fevereiro de 2025. Disponível em: https://www.youtube.com/watch?v=_jl64f- -821o. Acesso em: 24 de fevereiro de 2025. LUSA, Agência. Amazon paga indemnização milionária por violar privacidade de crianças com assistente de voz Alexa. CNN Portugal. 1 jun. 2023 Disponível em: <https://cnnportugal.iol.pt/amazon/indemnizacao/amazon-paga-indemnizacao-milionaria-por-violar-privacidade-de-criancas-com-assistente-de-voz-alexa/20230601/6477d1b5d34ea91b0aad1d8d>. Acesso em: 24 fev. 2025 MAICÁ, Richard da Silveira. Direito fundamental à privacidade: desdobramentos possíveis até o direito à extimidade. 2018. 110 p. Dissertação (Mestrado em Direito) – Universidade Federal de Santa Maria, Centro de Ciências Sociais e Humanas, Programa de Pós- -Graduação em Direito, Santa Maria, 2018. Disponível em: https:// repositorio.ufsm.br/handle/1/20151. Acesso em: 24 fev. 2025 MOORE, Jake. “Alexa, quem mais está ouvindo?” A ameaça escondida dos dispositivos conectados. WeLiveSecurity 06 out. 2023. Grupo de Pesquisa Cultura, Direito e Sociedade DGP/CNPq/UFMA 291 ISBN 978-65-01-67777-4 Disponível em: <https://www.welivesecurity.com/pt/privacidade/ alexa-quem-mais-esta-ouvindo-a-ameaca-escondida-dos-dispositivos- -conectados>. Acesso em: 24 fev. 2025 OLIVEIRA, Jeferson Gonçalves de; SANTOS, Paulo Augusto Isnard; MUYLDER, Cristiana Fernandes de; MARQUES, Rodrigo Moreno. Internet das coisas e privacidade: uma revisão sistemática de literatura. Encontro Nacional de Pesquisa em Ciência da Informação, 2018, p.5163-5182. Disponível em: <http://hdl.handle. net/1843/51456>. Acesso em: 24 fev. 2025. SIBILIA, Paula. La intimidad como espetáculo. Buenos Aires: Fondo de Cultura Económica, 2013. SOLOVE, Daniel J. Understanding privacy. Cambridge: Harvard University Press, 2008. TELLES, Fernando. 90% das pessoas não leem termos e condições de apps, revela estudo. Showmetech. 23 dez. 2020. Disponível em: <https://www.showmetech.com.br/pessoas-nao-leem-termose-condicoes-de-apps>. Acesso em: 24 fev. 2025 WARREN, Samuel; BRANDEIS, Louis. The right to privacy. Revista de Direito Civil Contemporâneo, São Paulo, v. 7, n. 12, p. 8-37, 2017. Disponível em: https://civilistica.emnuvens.com.br/redc/article/view/127/97. Acesso em: 24 fev. 2025. ZUBOFF, Shoshana. A era do capitalismo de vigilância. Rio de Janeiro: Intrínseca, 2021.