Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica

Revista Portuguesa de Educação 38 1 Jan-Jun 2025 Diretora Íris Susana Pires Pereira Diretores adjuntos Maria Helena Martinho Maria João Gomes Comissão editorial Ana Francisca Monteiro Ana Sofia Afonso Catarina Liane Araújo Gina Lemos Glória Solé Guilherme Rego Silva Joana Casanova Joana Sousa José António Martin Moreno Afonso Letícia Gabriela Martins Luciana Brito Luís Dourado Maria Conceição Pinto Antunes Marília Gago Sandra Santos Sílvia Monteiro Susana Caires Design grafico Catarina Soares Barbosa Revisao Linguistica Beatriz Passos Paginacao Júlia Rodrigues Apoio Fundação para a Ciência e Tecnologia (FCT) Propriedade Centro de Investigação em Educação (CIEd) Instituto de Educação Universidade do Minho Campus de Gualtar 4710-057 Braga Portugal Indexacao e avaliacao SciELO DOAJ Latindex (Repositório & Catálogo 2.0) REDIB ERIH Plus Publindex RedALYC MIAR Dialnet Open Policy Finder SCOPUS - Q4 Qualis CAPES - A1 https://revistas.rcaap.pt/rpe [email protected] ISSN: 0871-9187 / E-ISSN: 2183-0452 Revista Portuguesa de Educação, 38(1), e25020. http://doi.org/10.21814/rpe.41982 Nos últimos dois anos, os avanços e a popularização da Inteligência Artificial (IA), em particular da IA generativa, têm reconfigurado de forma rápida e disruptiva o ecossistema da produção e circulação do conhecimento científico. Se nas últimas décadas assistimos a uma progressiva sofisticação das ferramentas de apoio à investigação, facilitando tarefas como a pesquisa, organização e divulgação da informação, o que hoje está em causa vai muito além de uma melhoria técnica incremental. Estamos perante uma mudança estrutural na forma como se concebe, se acede e se valida o conhecimento. Esta transformação é particularmente relevante para o campo da Educação, onde a reflexão sobre os processos de construção do saber, a mediação pedagógica e a autoria têm centralidade epistemológica e ética. A IA generativa não pode, por conseguinte, ser encarada apenas como mais um recurso tecnológico a ser instrumentalizado; ela impõe-se como um agente transformador que interpela e, no limite, desestabiliza, os modos tradicionais de produção científica. Esta mudança manifesta-se já de forma bastante tangível nas dinâmicas de investigação. No contexto nacional, destaca-se a recente apresentação, por parte da Fundação para a Ciência e a Tecnologia, de um projeto piloto que visa fomentar a utilização eficiente da IA, através da disponibilização de um acesso centralizado a modelos de linguagem de larga escala (LLM), permitindo a sua integração em aplicações orientadas para fins científicos, pedagógicos ou institucionais (FCCN, 2025). No contexto internacional, a Universidade de Oxford divulgou também recentemente um estudo baseado numa amostra de mais de dois mil investigadores de diversas áreas disciplinares, fases da carreira e regiões do mundo, que confirma a disseminação crescente da IA na prática académica (Oxford University Press, 2024). Cerca de 76% dos respondentes indicaram já utilizar algum tipo de ferramenta de IA no seu trabalho. As aplicações mais frequentes concentram-se na tradução automática (49%), no uso de chatbots, como o ChatGPT (43%), e em motores de busca potenciados por IA (25%). Estas tecnologias são particularmente utilizadas na fase de revisão de literatura, na edição de textos e na síntese de informação, sendo vistas como instrumentos de aumento da eficiência académica. Os benefícios percebidos pelos investigadores são significativos: melhoria da produtividade, maior fluidez na escrita, apoio na organização de grandes volumes de Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica Revista Portuguesa de Educação Sílvia Monteiroi Universidade do Minho, Portugal. Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica 2 Revista Portuguesa de Educação, 38(1), e25020. http://doi.org/10.21814/rpe.41982 dados, e, para os investigadores não nativos de inglês, um contributo relevante na correção linguística e adequação formal dos textos científicos. Softwares baseados em IA já são inclusivamente capazes de sugerir hipóteses, compilar bibliografias e até simular modelos estatísticos (Khalifa & Halbadawy, 2024). De um modo geral, verifica-se uma perceção generalizada de que estas ferramentas contribuem para poupar tempo e, deste modo, supostamente, libertar espaço para o pensamento criativo e crítico. A IA generativa apresenta-se assim, na perspetiva de muitos investigadores, como uma solução para acelerar processos, desde a recolha e análise de dados, até à escrita de artigos científicos (Oxford University Press, 2024). A crescente automatização de etapas cruciais da investigação levanta, contudo, algumas interrogações sobre a qualidade, fiabilidade e profundidade do conhecimento produzido. Tendo por base dados anteriores, os modelos de IA replicam padrões linguísticos e probabilísticos, e não têm verdadeira compreensão dos conteúdos que processam, apenas replicam padrões com base em dados históricos, muitas vezes enviesados (Sampaio et al., 2024), aquilo que Bender (2021) designa de ‘papagaios estocásticos’. A própria falta de transparência dos algoritmos utilizados coloca desafios à reprodutibilidade científica, um dos princípios fundamentais da investigação, assim como a privacidade dos dados levanta preocupações, particularmente no caso de investigação com seres humanos (Sampaio et al., 2024). Por outro lado, ao transferirmos funções cognitivas centrais para algoritmos opacos, arriscamo-nos a reduzir a criatividade científica a um conjunto de previsibilidades estatísticas e a reproduzir vieses, correndo o risco de invisibilizar vozes minoritárias e epistemologias periféricas, precisamente porque estas estão sub- -representadas nas bases de treino que alimentam estes modelos (UNESCO, 2024). Os riscos inerentes à utilização da IA como mero substituto do pensamento humano - aquilo que alguns autores associam à ‘cognição delegada’ (Figueiredo, 2024; Risko & Gilbert, 2016) -, têm sido igualmente assinalados pela investigação no campo das neurociências, ancorada nas evidências de neuroplasticidade cerebral (Vance et al., 2012) e nos estudos recentes acerca dos efeitos que advêm do desuso de recursos cognitivos em consequência da delegação de tarefas na IA (Guerlich, 2025; Oakley et al., 2025). Estes efeitos podem, naturalmente, ser particularmente mais prejudiciais no caso de estudantes ou jovens investigadores que ainda se encontram numa fase de consolidação da construção do saber declarativo e de desenvolvimento de competências de análise crítica, criativa e argumentativa. Neste contexto complexo e ambíguo, que nos faz derivar entre a perplexidade e o deslumbramento com os avanços já alcançados e as reservas sobre o que se pode perder neste processo algo desconhecido para a maior parte dos utilizadores, importa pensar não apenas na melhor forma de incorporar todos estes desenvolvimentos tecnológicos, mas também (e sobretudo) na (re)construção de uma ética do conhecimento que salvaguarde a integridade científica, a autoria e o valor formativo da investigação. A literacia crítica para a IA (Bali, 2024) deixa assim de ser uma competência desejável, para se tornar uma condição essencial da cidadania contemporânea. Não basta conhecer e saber usar as ferramentas; é preciso compreender os seus funcionamentos, Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica 3 Revista Portuguesa de Educação, 38(1), e25020. http://doi.org/10.21814/rpe.41982 limitações, propósitos e impactos. Neste cenário, a literacia para a IA emerge como uma ferramenta essencial que irá com alguma certeza diferenciar investigadores que conseguem tirar maior partido desta a partir, por exemplo do desenvolvimento de competências na criação de prompts, o que pressupõe também uma competência dialógica, ou da capacidade de discernir quando é que a IA generativa pode ser prejudicial e gerar informações imprecisas ou enviesadas. Compreender como funciona a IA generativa, que tende a alimentar-se de dados de uma cultura dominante, reconhecendo que esta pode perpetuar preconceitos e desigualdades a partir do reforço de perspetivas hegemónicas – aquilo a que Gupta e colaboradores (2024) metaforizam como o ‘alto-falante colonizador’, representa outro aspeto crucial relacionado com a literacia crítica para a IA. De igual modo, a falta de transparência por parte das entidades fornecedoras de soluções baseadas em IA relativamente aos termos de uso das ferramentas, assim como a utilização de dados sem consentimento, representam outras dimensões sensíveis atualmente, que requerem sentido crítico e ético por parte dos utilizadores. Como referiu Floridi, já em 2014, não estamos apenas a desenvolver tecnologias inteligentes; estamos a transformar os modos como percebemos e organizamos o mundo. Perante esta realidade, a comunidade científica é assim convidada a cultivar uma relação emancipadora com estas tecnologias, promovendo o uso crítico da IA, numa lógica colaborativa, mas também de salvaguarda da autonomia dos utilizadores, resistindo a uma colonização acrítica. A literacia crítica para a IA, entendida como a capacidade de questionar, avaliar e contextualizar o funcionamento e os impactos destas ferramentas, deve ser posicionada no centro desta relação. O futuro da investigação não deve depender apenas da potência de algoritmos, mas da consciência crítica com que decidimos usá-los. REFERÊNCIAS Bali, M. (2024, 26 de fevereiro). Where are the crescents in AI? LSE Higher Education Blog. https://blogs.lse.ac.uk/highereducation/2024/02/26/ where-are-the-crescents-in-ai/ Bender, E. M., Gebru, T., McMillan-Major, A., & Mitchell, M. (2021). On the dangers of stochastic parrots: Can language models be too big? In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–623). Association for Computing Machinery. FCCN (2025, maio 16). FCT lança IAedu para democratizar o acesso à Inteligência Artificial no Ensino Superior e Investigação. Fundação para a Ciência e a Tecnologia. https://www.fccn.pt/atualidade/fct-lanca-iaedu-democratizar-acessointeligencia-artificial-ensino-superior-e-investigacao/ Figueiredo, A. D. (2024). Fatores-chave para a integração da inteligência artificial nas escolas [Versão preliminar de artigo a publicar]. Revista Diversidades, (64), jul–dez. Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica 4 Revista Portuguesa de Educação, 38(1), e25020. http://doi.org/10.21814/rpe.41982 Floridi, L. (2014). The fourth revolution: how the infosphere is reshaping human reality. Oxford University Press UK. Gerlich, M. (2025). AI tools in society: Impacts on cognitive offloading and the future of critical thinking. Societies, 15(6). https://doi.org/10.3390/soc15010006 Gupta, A., Atef, Y., Mills, A., & Bali, M. (2024). Assistant, parrot, or colonizing loudspeaker? ChatGPT metaphors for developing critical AI literacies. Open Praxis, 16(1), 37–53. https://doi.org/10.55982/openpraxis.16.1.631 Khalifa, M., & Albadawy, M. (2024). Using artificial intelligence in academic writing and research: An essential productivity tool. Computer Methods and Programs in Biomedicine Update, 5(March). https://doi.org/10.1016/j. cmpbup.2024.100145 Oakley, B., Johnston, M., Chen, K.-Z., Jung, E., & Sejnowski, T. (2025). The Memory Paradox: Why Our Brains Need Knowledge in an Age of AI. In The Future of Artificial Intelligence: Economics, Society, Risks and Global Policy (Springer Nature, forthcoming). Oxford University Press. (2024). Researchers and AI: Survey findings. https:// global.oup.com/feature/researchers-and-ai-survey-findings Risko, E. F., & Gilbert, S. J. (2016). Cognitive Offloading. Trends in Cognitive Sciences, 20(9), 676–688. Sampaio, R., Sabbatini, M., & Limongi, R. (2024). Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: Um guia prático para pesquisadores. In Penambahan Natrium Benzoat Dan Kalium Sorbat (Antiinversi) Dan Kecepatan Pengadukan Sebagai Upaya Penghambatan Reaksi Inversi Pada Nira Tebu. Editora Intercom. UNESCO (2023). Guia para a IA generativa na educação e na pesquisa. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. https:// unesdoc.unesco.org/ark:/48223/pf0000386508 Vance, D. E., Kaur, J., Fazeli, P. L., Talley, M. H., Yuen, H. K., Kitchin, B., & Lin, F. (2012). Neuroplasticity and successful cognitive aging. Journal of Neuroscience Nursing, 44(4), 218–227. https://doi.org/10.1097/JNN.0b013e3182527571 Inteligência Artificial Generativa e (re)configuração do conhecimento científico: Entre o potencial tecnológico e a literacia crítica 5 Revista Portuguesa de Educação, 38(1), e25020. http://doi.org/10.21814/rpe.41982 i Centro de Investigação em Educação (CIEd), Institudo de Educação, Universidade do Minho, Portugal. https://orcid.org/0000-0002-5236-2711 [email protected] Toda a correspondência relativa a este artigo deve ser enviada para: Sílvia Monteiro [email protected] Recebido em 12 de junho de 2025 Aceite para publicação em 14 de junho de 2025 Publicado em 30 de junho de 2025