scieee AI-readable full text Open interactive document viewer

Monthly Rainfall Modeling in Caruaru, Pernambuco, using Artificial Neural Networks

Firmino Cardoso, Jean; Vasconcelos da silva, Ingrid; Larissa, Eduarda Luciana; Galindo, Erickson

Abstract

[ENGLISH]Abstract: Studies on rainfall and climate have acquired considerable relevance in various economic and social sectors, due to the decisive influence of weather forecasting on the water potential of a given region. In this context, this work aims to build a Deep Learning model for forecasting monthly rainfall, making exclusive use of a historical data series. To achieve this purpose, monthly rainfall data referring to the period from 1960 to 2018, collected in the municipality of Caruaru-PE, were used. These data were applied to an Artificial Neural Networks (ANNs) model for information processing and analysis. Various ANN configurations were considered and evaluated together with the data, in order to identify the most effective approach. The results revealed the feasibility of using ANNs to address the problem of forecasting monthly rainfall volumes, based on a data history. However, it is important to mention that, despite the reasonable results obtained, the amount of data available may not have been sufficient to reach the desired level of efficiency in processing. [PORTUGUESE]Resumo: Estudos sobre chuva e clima adquiriram considerável relevância em diversos setores econômicos e sociais, devido à influência decisiva da previsão do tempo sobre o potencial hídrico de uma determinada região. Nesse contexto, o presente trabalho tem como objetivo a construção de um modelo de Deep Learning para a previsão da precipitação mensal, fazendo uso exclusivamente de uma série histórica de dados. Para alcançar este propósito, foram empregados dados de precipitações mensais referentes ao período de 1960 a 2018, coletados no município de Caruaru-PE. Esses dados foram aplicados em um modelo de Redes Neurais Artificiais (RNAs) para o processamento e análise das informações. Diversas configurações de RNAs foram consideradas e avaliadas em conjunto com os dados, com o intuito de identificar a abordagem mais eficaz. Os resultados revelaram a viabilidade do uso de RNAs para abordar a problemática da previsão dos volumes de precipitação mensal, com base em um histórico de dados. No entanto, é importante mencionar que, apesar dos resultados razoáveis obtidos, a quantidade de dados disponíveis pode não ter sido suficiente para alcançar o nível de eficiência desejado no processamento. [SPANISH]Resumen: Los estudios sobre la lluvia y el clima han adquirido una relevancia considerable en diversos sectores económicos y sociales, debido a la influencia decisiva del pronóstico del tiempo sobre el potencial hídrico de una región determinada. En este contexto, este trabajo tiene como objetivo construir un modelo de Aprendizaje Profundo (Deep Learning) para la previsión de la precipitación mensual, haciendo uso exclusivo de una serie histórica de datos. Para lograr este propósito, se emplearon datos de precipitaciones mensuales referentes al período de 1960 a 2018, recolectados en el municipio de Caruaru-PE. Estos datos se aplicaron a un modelo de Redes Neuronales Artificiales (RNA) para el procesamiento y análisis de la información. Se consideraron y evaluaron diversas configuraciones de RNA junto con los datos, con el fin de identificar el enfoque más eficaz. Los resultados revelaron la viabilidad del uso de RNA para abordar la problemática de la previsión de los volúmenes de precipitación mensual, con base en un historial de datos. Sin embargo, es importante mencionar que, a pesar de los resultados razonables obtenidos, la cantidad de datos disponibles puede no haber sido suficiente para alcanzar el nivel de eficiencia deseado en el procesamiento. [CHINESE]摘要:由于天气预报对特定地区水势的决定性影响,关于降雨和气候的研究在各个经济和社会领域获得了相当大的相关性。在此背景下,这项工作旨在建立一个深度学习模型来预测月降雨量,仅使用历史数据序列。为了实现这一目的,使用了在伯南布哥州卡鲁阿鲁市收集的1960年至2018年期间的月降雨量数据。这些数据被应用于人工神经网络(ANN)模型进行信息处理和分析。考虑并评估了各种ANN配置与数据,以确定最有效的方法。结果表明,基于数据历史,使用ANN解决月降雨量预测问题是可行的。然而,值得一提的是,尽管获得了合理的结果,但可用数据的数量可能不足以达到预期的处理效率水平。 [GERMAN]Zusammenfassung: Studien zu Niederschlag und Klima haben in verschiedenen wirtschaftlichen und sozialen Sektoren aufgrund des entscheidenden Einflusses der Wettervorhersage auf das Wasserpotenzial einer bestimmten Region erheblich an Bedeutung gewonnen. In diesem Zusammenhang zielt diese Arbeit darauf ab, ein Deep-Learning-Modell für die Vorhersage des monatlichen Niederschlags zu erstellen, wobei ausschließlich eine historische Datenreihe verwendet wird. Zu diesem Zweck wurden monatliche Niederschlagsdaten für den Zeitraum von 1960 bis 2018 verwendet, die in der Gemeinde Caruaru-PE gesammelt wurden. Diese Daten wurden in einem Modell künstlicher neuronaler Netze (KNN) zur Informationsverarbeitung und -analyse angewendet. Verschiedene KNN-Konfigurationen wurden zusammen mit den Daten berücksichtigt und bewertet, um den effektivsten Ansatz zu identifizieren. Die Ergebnisse zeigten die Machbarkeit der Verwendung von KNN zur Lösung des Problems der Vorhersage monatlicher Niederschlagsmengen auf der Grundlage einer Datenhistorie. Es ist jedoch wichtig zu erwähnen, dass trotz der erzielten vernünftigen Ergebnisse die Menge der verfügbaren Daten möglicherweise nicht ausreichte, um das gewünschte Effizienzniveau bei der Verarbeitung zu erreichen. [FRENCH]Résumé : Les études sur les précipitations et le climat ont acquis une pertinence considérable dans divers secteurs économiques et sociaux, en raison de l'influence décisive des prévisions météorologiques sur le potentiel hydrique d'une région donnée. Dans ce contexte, ce travail vise à construire un modèle d'apprentissage profond (Deep Learning) pour la prévision des précipitations mensuelles, en utilisant exclusivement une série de données historiques. Pour atteindre cet objectif, des données de précipitations mensuelles concernant la période de 1960 à 2018, collectées dans la municipalité de Caruaru-PE, ont été utilisées. Ces données ont été appliquées à un modèle de réseaux de neurones artificiels (RNA) pour le traitement et l'analyse des informations. Diverses configurations de RNA ont été examinées et évaluées conjointement avec les données, afin d'identifier l'approche la plus efficace. Les résultats ont révélé la faisabilité de l'utilisation de RNA pour aborder la problématique de la prévision des volumes de précipitations mensuelles, sur la base d'un historique de données. Cependant, il est important de mentionner que, malgré les résultats raisonnables obtenus, la quantité de données disponibles peut ne pas avoir été suffisante pour atteindre le niveau d'efficacité souhaité dans le traitement.

Full text

See discussions, stats, and author profiles for this publication at: https://www.researchgate.net/publication/375879318 Monthly Rainfall Forecasting in Caruaru, Pernambuco, Using Artificial Neural Networks Chapter · November 2020 DOI: 10.37423/230908143 CITATIONS 0 READS 5 10 authors, including: Jean Firmino Cardoso Federal University of Pernambuco 137 PUBLICATIONS4 CITATIONS SEE PROFILE Ingrid Karoline Vasconcelos da Silva Federal University of Pernambuco 16 PUBLICATIONS0 CITATIONS SEE PROFILE All content following this page was uploaded by Jean Firmino Cardoso on 26 June 2025. The user has requested enhancement of the downloaded file. XV Simpósio de Recursos Hídricos do Nordeste 1 XV SIMPÓSIO DE RECURSOS HÍDRICOS DO NORDESTE APLICAÇÃO DE DEEP LEARNING PARA A PREDIÇÃO DA PRECIPITAÇÃO PLUVIOMÉTRICA MENSAL NO MUNICÍPIO DE CARUARU-PE Jean Firmino Cardoso 1 ; Lucas Ravellys Pyrrho de Alcântara2; Severino Martins dos Santos Neto3; Artur Paiva Coutinho4 & Antonio Celso Dantas Antonino5 RESUMO – Estudos sobre a chuva e clima ganharam grande relevância em diversos setores econômicos e sociais, tendo em vista que a previsão do tempo é um fator determinante do potencial hídrico de uma região. Nesse sentido, o objetivo desse trabalho construir um modelo de Deep Learning para a predição da precipitação mensal utilizando apenas a série de histórica de dados. Para isto foram utilizados dados das precipitações mensais de 1960 até 2018 do município de Caruaru-PE. Esses dados foram implementados em um modelo de redes neurais artificiais (RNA) no manejo e análise das informações. Os dados foram analisados em conjunto com diferentes redes neurais utilizadas, a melhor aproximação obtida foi determinada. É possível utilizar as redes neurais artificiais para a problemática, prevendo os volumes de precipitações mensais tendo como base o banco de dados históricos. Mesmo obtendo resultados razoáveis, a quantidade de dados não foi suficiente para o processamento eficaz almejado. ABSTRACT– Studies on rain and climate have gained great relevance in several economic and social sectors, considering that the weather forecast is a determining factor of a region's water potential. In this sense, the objective of this work is to build a Deep Learning model for the prediction of monthly precipitation using only the series of historical data. For this, data from monthly rainfall from 1960 to 2018 in the municipality of Caruaru-PE were used. These data were implemented in a model of artificial neural networks (ANN) in the management and analysis of information. The data were analyzed together with different neural networks used, the best approximation obtained was determined. It is possible to use artificial neural networks for the problem, predicting the monthly precipitation volumes based on the historical database. Even with reasonable results, the amount of data was not sufficient for the effective processing desired. PALAVRAS-CHAVE – Machine Learning, Hidrologia estatística, Recursos Hídricos. 1 ) Graduando em Engenharia Civil, NT/CAA/UFPE: Av. Marielle Franco, s/n - Km 59 - Nova Caruaru, Caruaru - PE, CEP: 55014-900, [email protected] 2) Doutorando em Tecnologias Energéticas e Nucleares, DEN/CT/UFPE, Av. Prof. Luiz Freire, 1000, Cidade Universitária, Recife, CEP – 50740540, lucas[email protected] 3) Doutor em Tecnologias Energéticas e Nucleares, DEN/CT/UFPE, Av. Prof. Luiz Freire, 1000, Cidade Universitária, Recife, CEP – 50740540, [email protected] 4) Professor Doutor em Engenharia Civil, NT/CAA/UFPE: Av. Marielle Franco, s/n - Km 59 - Nova Caruaru, Caruaru - PE, CEP: 55014-900, [email protected] 5)Professor Doutor Tecnologias Energéticas e Nucleares, DEN/CT/UFPE, Av. Prof. Luiz Freire, 1000, Cidade Universitária, Recife, CEP – 50740540, [email protected] XV Simpósio de Recursos Hídricos do Nordeste 2 INTRODUÇÃO Existe duas principais abordagens capazes de obter a previsão dos volumes de precipitações pluviométricas: a modelagem determinística dos fenômenos hidrometeorológicos e a análise empírica como os dados das séries históricas (dos Santos Sousa et al., 2017). Entretanto, a primeira abordagem é pouco viável, visto que, a precipitação é o resultado de procedimentos com grande complexidade. Por outro lado, pela segunda alternativa, a previsão é trabalhada a partir do reconhecimento de padrões no qual as variáveis históricas são usadas para buscar padrões periódicos anuais dos quais podem ser relevantes para a previsão dos próximos eventos de precipitação (dos Santos Sousa et al. 2017). Dentre dos métodos empíricos, as técnicas de Machine Learning (ML) vem ganhando grande destaque na predição de series temporal. As MLs são uma forma de algoritmos de inteligência artificial, que diverge com a programação tradicional. Nos algoritmos tradicionais o programador fornece à lógica e a entrada almejando a saída dos dados. Já na ML o programador fornece a entrada e a saída, criando meios com que o programa retorne a lógica contida para obter a relação entre eles (Valente, 2019). Dentro das abordagens de Machine Learning, as Redes Neurais Artificiais (RNAs) consistem em um modelo matemático complexo, no qual trabalha com a técnica semelhante à do comportamento do cérebro humano. São consideradas algoritmos poderosos, bastante utilizadas para resolver problemas lineares ou não-lineares (Carvalho, 2014). De acordo com Zaher et al. (2016), a RNA se baseia em uma estrutura com um único elemento chamado nó, onde a cada processamento de informação terá um novo neurônio associado, no qual respeitará o seu funcionamento com base em uma função de ativação em cada saída dos nós. De forma geral podese dizer que modelo do RNA consiste três níveis: uma entrada, no qual possui um ou mais números de nós de entrada que varia conforme a quantidade de parâmetros para o modelo; uma camada para a função de ativação, da qual pode ser linear ou não linear; e uma camada de saída, que levará a informação para o próximo nó ou ao output do modelo. Desse mesmo modo, a técnica de Deep Learning (aprendizado profundo de máquina) é um dos ramos do Machine Learning baseado em um conjunto de algoritmos que detenham da capacidade de modelar abstrações de alto nível de dados usando um grafo profundo com várias XV Simpósio de Recursos Hídricos do Nordeste 3 camadas de processamento. Nesse sentido, este trabalho teve como objetivo construir um modelo de Deep Learning para a predição da precipitação mensal utilizando apenas a série histórica de dados precipitação. Para tanto, foi utilizado como estudo de caso o município de Caruaru-PE. MATERIAIS E MÉTODOS Área de estudo O município de Caruaru (Figura 1), localizado no agreste Pernambucano aos 8º 16’ 58’’ S de latitude e 35º 58’ 33’’ W de longitude, tem o clima o semiárido e com grandes variações de temperatura, entre de 20ºC no inverno e 38ºC no verão. Na Figura1 são apresentados os postos pluviométricos presentes no município de Caruaru. Foram utilizadas séries históricas das precipitações obtidas pela Agência Pernambucana de Águas e Climas (APAC, 2019). Neste trabalho, por apresentar a maior e mais continua série de dados, foram utilizados os dados presentes no posto pluviométrico do IPA (Instituto Agronômico de Pesquisa). Figura 1 - Localização dos postos de dados pluviométricos no município de Caruaru-PE. Tratamento dos dados Foram utilizados dados mensais de precipitação pluviométrica entre os anos de 1960 até 2018, resultando em um total de 708 dados. Os dados de precipitação pluviométrica acumulada mensal no período de 1960 até 2018 são apresentados na Figura 4. Em vermelho é demonstrada a precipitação média, da qual teve uma magnitude de cerca de 50 mm/mês. XV Simpósio de Recursos Hídricos do Nordeste 4 Figura 2. Dados de Precipitação acumulada mensal no período de 1960 até 2018. Para o ajuste do modelo, foi utilizada a normalização do logaritmo dos dados, utilizando a Equação (1): 𝑃𝑖′= 𝐿𝑛(𝑃𝑖+1)−𝑃𝑙𝑛      𝑆𝑙𝑛 (1) Sendo: 𝑃𝑖′ o dado normalizado no tempo i; 𝑃𝑖 a precipitação em mm no tempo i; 𝑃𝑙𝑛      a média do Ln(P+1) de treino; e 𝑆𝑙𝑛 o desvio padrão do Ln(P) de treino. Na Figura 3 é apresentado o histograma da precipitação pluviométrica acumulada mensal com os dados brutos e normalizados. A. B. Figura 3. Histograma da precipitação pluviométrica acumulada mensal com os dados brutos (A) e normalizados (B) Construção do modelo de Deep Learning Para a arquitetura do modelo de Machine learning, foi utilizado modelo de Redes Neurais Artificiais (RNA). Para isso, foi utilizado a biblioteca Keras do python em conjunto com o Backend do TensorFlow 2.0. Como entrada, foi selecionada uma janela com 12 meses de dados, ou seja, para a predição de um mês futuro é necessário o input de um ano de dado anterior a este mês. Para a XV Simpósio de Recursos Hídricos do Nordeste 5 otimização foram ainda utilizados tamanhos de batch de 20 e um critério de parada de 1000 iterações. Como função objetivo foi utilizada a função de Huber (1964), na qual, por definição é uma função de perda, geralmente usada quando a análise estatística trata de valores discrepantes entre si. A função descreve a perda incorrida por um procedimento estimativo. A função de perdas de Huber é dada por: 𝐿(𝑎)={12𝑎2 𝑝𝑎𝑟𝑎 |𝑎| ≤𝛿 𝛿(|𝑎|−12𝛿), 𝑝𝑎𝑟𝑎 |𝑎|>𝛿 (2) Onde ‘a’ refere-se ao resíduo, ou seja, à diferença entre os valores observados e os previstos sendo igual a 𝑎=𝑦−𝑓(𝑥). Para a otimização da função de Huber foi utilizada o método do Gradiente Descendente Estocástico com taxa de aprendizado de 10-5 e momento de 0,3. Este é um método de otimização utilizado em aprendizado de máquina, no qual objetivo é minimizar uma dada perda L(𝑎) (Pinto, 2018). encontrando para isso um valor θ* ∈ ℜk (k ≥ 1), começando com um valor inicial θ0. 𝜃𝑛+1=𝜃𝑛−𝜀𝑛𝐿´ (𝜃𝑛) (3) Onde n é o número do passo da iteração e ɛn é a sequência decrescente do tamanho do passo, assume-se que ɛn é não negativo e finito (Gemulla et al., 2011). Uma arquitetura de Deep Learning Recursiva foi utilizada para ajustar o modelo. Para o treinamento e validação do modelo foram utilizados 70% (496 meses) e 30% (212 meses), respectivamente. As métricas utilizadas para avaliar a qualidade do ajuste foram o Coeficiente de eficiência do modelo de Nash (NSE), Equação ( 4 ), e o erro absoluto médio (MAE), Equação ( 5 ). XV Simpósio de Recursos Hídricos do Nordeste 6 𝑁𝑆𝐸=1−∑(𝑂𝑖−𝑃𝑖)2 𝑛 𝑖=1 ∑(𝑂𝑖−𝑂)2 𝑛 𝑖=1 (4) 𝑀𝐴𝐸=1𝑛∑|(𝑂𝑖−𝑃𝑖)| 𝑛 𝑡=1 (5) No qual: Oi é o valor da precipitação observada em i, Pi é o valor da precipitação predita em i, n é o número de registros, e O é a precipitação média da série analisada. RESULTADOS E DISCUSSÃO Na Figura 4 são apresentados os Box-Plots das precipitações pluviométricas mensais durante o período de 1960 até 2018. Nota-se que as maiores precipitações se concentram entre os meses de março a julho, enquanto que as menores precipitações estiveram concentradas de setembro a dezembro. Observa-se também que a maior precipitação mediana ocorreu no mês de julho. O mesmo foi constatado na Bacia do Tapacurá por Silva et al. (2010), entretanto, em outras regiões do Agreste a maior precipitação mensal pode ocorrer no mês de junho (Rodrigues et al., 2017). Nota-se ainda que os limites superiores dos históricos de chuvas possuem uma maior amplitude entre os meses de fevereiro a abril, gradativamente vão diminuindo até o mês de novembro onde encontra o menor limite superior. Resultados semelhantes foram observados Santos e Montenegro (2012). Contrariamente a isso, os limites inferiores foram mais uniformes ao longo dos meses. Uma das variáveis hidrológicas que podem influenciar para a ocorrência das outliers ao longo da série histórica vem da anomalia ocorrida na temperatura do atlântico e pacifico causada pelo fenômeno global chamado La Niña. Segundo Rodrigues et al. (2007), entre os anos de 1964 e 2016, 56% dos registros chuvas intensas foram provocadas por este evento. Essas informações mostram a heterogeneidade temporal na distribuição da precipitação no município de Caruaru, como constatado por Santos et al. (2010) para a região do agreste Pernambucano. XV Simpósio de Recursos Hídricos do Nordeste 7 Figura 4. Boxplot dos meses no intervalo entre 1960 até 2018 Na Figura 5A é apresentada precipitação pluviométrica mensal e sua predição pelo modelo no período de validação. Nota-se que o modelo foi capaz de prever as tendências dos dados medidos, apresentando uma boa predição na ausência de chuva, contudo, subestimando os picos de chuvas. Gorodetskaya et al. (2018) utilizaram os métodos de Redes Neurais Artificiais e Random Forest e também obtiveram dificuldade em prever a vazão média diária de uma estação fluviométrica do rio Paraíba do Sul com um horizonte de previsão de até 7 dias. Assim como no presente trabalho, eles ainda observaram que durante períodos com vazões médias e baixas, a previsão foi satisfatória. Além disso, os autores ainda observaram que os modelos de Redes Neurais mostraram melhor desempenho na previsão dos picos de vazão em comparação aos modelos Random Forest. Em relação às métricas de quantificação do ajuste adotadas (Figura 5B) é possível identificar várias discrepâncias entre os dados inicialmente processados. Nota-se também tendência positiva entre os dados medidos e estimados no gráfico de comparação, entretanto, também é observado uma grande dispersão dos valores. O coeficiente NSE foi de 0,33 e o seu MAE foi de 0,62, mesmo assim, ainda não foi possível prever os dados com uma eficiência satisfatória para o objetivo, ou seja, foi almejado o NSE para mais próximo de 1. Também é possível supor um dos motivos para o MAE calculado, provavelmente foi influenciado pelas precipitações diárias anômalas a média anual, por exemplo, precipitações acima de 50mm (Figura 2) podem alterar o MAE para distante do MAE ideal(zero). XV Simpósio de Recursos Hídricos do Nordeste 8 A. B. Figura 5. (A) Predição da Precipitação Mensal pelo modelo no período de Validação, (B) Scatter plot dos dados normalizados medidos e estimados pelo modelo no período de validação. CONCLUSÃO Com o desenvolvimento do trabalho foi possível utilizar as Redes Neurais Artificiais para a predição de precipitações mensais no município de Caruaru, a partir o banco de dados da série histórica pluviométrica. Mesmo obtendo resultados interessantes, a quantidade de dados não foi suficiente para o processamento eficaz almejado, com base nos resultados das métricas de quantificação, ou seja, os coeficientes MAE e NSE. Mesmo assim, ainda foi possível prever as tendências de ausência de chuvas, de acordo com os dados, foi possível identificar padrões cíclicos para os meses com baixo volume de chuva, especialmente entre o mês de novembro. Também foi possível identificar os meses entre março e