Como o passado ecoa: entendendo ACF e PACF

O passado e o futuro

Em aprendizado de máquina, não faltam problemas que envolvem séries temporais. Neles, a ordem dos dados importa: observações feitas em momentos diferentes podem estar relacionadas. Isso difere dos dados transversais convencionais, nos quais cada ponto costuma ser tratado como independente dos demais.

Embora conjuntos de dados de séries temporais possam conter várias características, como outros conjuntos usados em aprendizado de máquina, é comum começar por uma única sequência de valores observados em uma frequência fixa. Um exemplo é a temperatura média diária ao longo de um ano.

A maioria das séries temporais pode ser visualizada, e essas visualizações muitas vezes revelam padrões claros. Pode haver uma tendência, que indica a direção geral em que os valores se movem. Às vezes, a série cresce ou diminui com o tempo; em outros casos, permanece em torno de uma média aproximadamente constante.

Uma série também pode conter sazonalidade: padrões que se repetem em intervalos regulares. Movimentos sazonais semanais, por exemplo, são comuns em dados de vendas porque o comportamento do consumidor costuma mudar de maneira sistemática entre os dias da semana.

Em muitos casos, como no exemplo acima, conseguimos fazer mais do que identificar esses padrões. Nossa mente consegue projetá-los naturalmente no futuro. Quando tendências e sazonalidades são claras, fazer uma previsão pode parecer apenas “continuar a linha”.

O aprendizado de máquina oferece muitos métodos para automatizar essa tarefa. Antes de pensar em como as observações futuras se relacionam com o presente, porém, vale examinar como as observações que já temos se relacionam com o próprio passado.

Se entendermos como valores anteriores influenciam — ou pelo menos fornecem informação sobre — o presente, poderemos encontrar pistas importantes sobre como o estado atual da série se relaciona com seu futuro. Este artigo se concentra em duas técnicas criadas para revelar essas relações temporais.

Dispersando o tempo

Gráficos de dispersão e correlação

Uma técnica básica para encontrar relações nos dados é o gráfico de dispersão. Escolhemos duas características de um conjunto de dados — normalmente numéricas — e traçamos seus valores em um plano $x$-$y$.

Considere, por exemplo, um conjunto de dados com a altura e o peso de várias pessoas.

Podemos ver que as duas características têm uma relação aproximadamente linear. Pessoas mais altas tendem, em média, a pesar mais. Portanto, as duas características são positivamente correlacionadas. Neste exemplo, a correlação entre elas é 0,85.

A correlação mede como duas características tendem a variar juntas.

• Correlação positiva: quando uma aumenta, a outra tende a aumentar.
• Correlação negativa: quando uma aumenta, a outra tende a diminuir.
• Ausência de correlação: conhecer uma característica fornece pouca informação sobre a direção da outra.

A fórmula é relativamente simples. Ela recebe duas características e retorna um número entre $-1$ e $1$. Neste artigo, usaremos a seguinte notação:

Aqui, $\bar{x}$ e $\bar{y}$ são as médias das duas características.

Uma consequência simples, mas poderosa, da correlação muitas vezes passa despercebida. Independentemente de uma característica causar ou não a outra, uma relação suficientemente forte ainda pode conter informação preditiva.

No exemplo de altura e peso, se observarmos apenas a altura de uma pessoa, não conseguiremos determinar seu peso exato. No entanto, poderemos estimar seu peso esperado de maneira mais informada do que conseguiríamos sem conhecer sua altura.

O mesmo princípio vale para séries temporais. Se valores passados estiverem correlacionados com valores posteriores, observar o presente poderá nos dar informação sobre como a série provavelmente evoluirá. A correlação não garante o futuro, mas revela se o passado mantém com ele uma relação mensurável.

Correlação temporal

O tipo de série temporal simples discutido aqui pode ser representado como uma sequência de valores indexados de $1$ a $T$:

Para investigar como o passado se relaciona com o futuro, podemos reorganizar essa sequência em pares de observações vizinhas.

Percorremos a série e coletamos cada par

começando por $(X_1,X_2)$ e continuando até $(X_{T-1},X_T)$.

Agora temos um conjunto de dados com duas características numéricas. Podemos colocar $X_t$ no eixo horizontal e $X_{t+1}$ no eixo vertical.

Como antes, as características parecem correlacionadas porque os pontos se concentram em torno de uma reta. Se calcularmos a correlação entre elas, obteremos 0,51.

A diferença é que não se trata de duas variáveis distintas, como altura e peso. São duas versões deslocadas da mesma variável: uma contém o valor no instante $t$, enquanto a outra contém o valor observado um passo depois.

Portanto, estamos medindo se valores altos tendem a ser seguidos por valores altos, se valores baixos tendem a ser seguidos por valores baixos ou se observações consecutivas têm pouca relação linear.

Mais lags

Em vez de combinar $X_t$ com $X_{t+1}$, podemos combiná-lo com $X_{t+n}$, em que $n$ é um número inteiro que representa um lag, ou defasagem.

Um lag descreve a distância entre duas observações da série.

Quando $n=1$, comparamos observações separadas por um passo no tempo:

Quando $n=2$, comparamos observações separadas por dois passos no tempo:

Percorremos a série como antes, mas agora as observações do par estão separadas por um valor intermediário.

Isso produz um novo gráfico de dispersão e um novo valor de correlação.

Podemos repetir esse processo para muitos lags. A partir do lag $1$, calculamos a correlação entre observações separadas por dois passos, três passos, quatro passos e assim por diante.

Em princípio, podemos continuar até que o conjunto de dados não permita formar outro par. Na prática, costumamos parar antes, quando restam poucos dados nos lags seguintes ou quando eles deixam de ser relevantes para o problema.

Toda série temporal é finita. Para uma série com $T$ observações, calcular a correlação no lag $n$ exige pares da forma

A segunda observação só existe quando

Portanto,

No lag $n$, apenas $T-n$ pares estão disponíveis. À medida que o lag aumenta, restam menos observações para estimar a correlação. Por isso, correlações em lags muito grandes se baseiam em menos dados e, em geral, são mais incertas.

Agora vamos executar esse processo diretamente. Na visualização a seguir, você verá a série temporal de vendas que analisamos e escolherá o lag usado no cálculo.

Você começará no lag $1$. Toda vez que aumentar o lag, a série será varrida novamente, e um novo gráfico de dispersão será construído com os pares resultantes.

À direita, um gráfico de barras resumirá os resultados. O eixo horizontal representará o lag, enquanto o eixo vertical mostrará a correlação calculada naquele lag.

Execute a simulação e observe se aparece algum padrão interessante.

Depois de concluir a simulação, você percebeu que o lag $7$ tem correlação maior do que vários lags intermediários?

Isso nos diz que observações separadas por sete passos no tempo tendem a ter uma relação linear mais forte do que observações separadas por alguns intervalos menores. Não significa necessariamente que o valor de sete passos atrás cause diretamente o valor atual. Significa que conhecer uma dessas observações fornece informação relativamente forte sobre a outra.

Para dados de vendas diárias, esse resultado não surpreende. Uma distância de sete observações corresponde a uma semana, e os mesmos dias de semanas consecutivas costumam apresentar comportamentos de compra semelhantes. Segundas-feiras podem se parecer mais com outras segundas-feiras do que com as terças-feiras imediatamente seguintes.

A visualização talvez já tenha sugerido esse padrão semanal. Agora, o cálculo da correlação o confirma numericamente e quantifica sua intensidade.

Todo esse processo se chama autocorrelação. O prefixo auto indica que a série está sendo correlacionada com uma versão deslocada dela mesma.

Para o lag $n$, podemos escrever:

De maneira mais explícita, usando o mesmo cálculo de Pearson do playground, sejam $\bar{x}_{\mathrm{esquerda}}$ e $\bar{x}_{\mathrm{direita}}$ as médias das duas sequências sobrepostas. Então, a autocorrelação amostral no lag $n$ é

Aqui, a sequência da esquerda é $x_1,\ldots,x_{T-n}$, e a da direita é $x_{1+n},\ldots,x_T$. Portanto, a fórmula é a correlação comum aplicada às duas colunas deslocadas construídas pela varredura.

O conjunto das autocorrelações calculadas para vários lags recebe o nome de função de autocorrelação, ou ACF.

A visualização oferece uma intuição de como a ACF é construída: desloque a série pelo lag escolhido, forme pares com as observações sobrepostas, meça a correlação entre elas e repita o processo para outros lags.

As influências indiretas

Até aqui, usamos a função de autocorrelação para medir a correlação entre $X_t$ e $X_{t+n}$ para diferentes valores de $n$.

Em muitos processos de séries temporais, porém, as relações se propagam pelas observações intermediárias. Considere três valores consecutivos:

Se $X_t$ ajuda a determinar $X_{t+1}$, e $X_{t+1}$ ajuda a determinar $X_{t+2}$, então parte da relação entre $X_t$ e $X_{t+2}$ pode ser transmitida por $X_{t+1}$.

Isso não significa que a correlação seja sempre transitiva. Em geral, saber que dois pares de variáveis são correlacionados não basta para garantir que o par restante também seja. No entanto, em um processo temporal recursivo, observações anteriores podem afetar observações posteriores por meio dos valores que existem entre elas.

A autocorrelação no lag $1$,

mede a relação entre observações consecutivas.

A autocorrelação no lag $2$,

mede a relação total entre observações separadas por dois passos. Ela não distingue uma relação específica do lag $2$ de outra que tenha se propagado por $X_{t+1}$.

Isso levanta uma pergunta importante. Se $X_t$ se relaciona com $X_{t+1}$, que por sua vez se relaciona com $X_{t+2}$, quanto de $\operatorname{ACF}(2)$ representa uma relação exclusiva do lag $2$? Será que estamos medindo em parte uma informação que já apareceu no lag $1$?

A resposta é sim. A ACF mede a relação linear completa entre duas observações a uma determinada distância. Ela não separa relações transmitidas por observações intermediárias das relações que permanecem depois que esses valores intermediários são levados em conta.

Podemos enxergar isso com clareza construindo uma série temporal sintética simples com apenas um lag definido explicitamente:

em que cada $\varepsilon_{t+1}$ é amostrado de maneira independente de uma distribuição gaussiana. Inicializaremos a série com $X_1=1$, multiplicaremos o valor mais recente por $0{,}8$, somaremos um novo termo de erro e repetiremos o processo.

Embora a equação contenha apenas $X_t$, seu efeito se propaga para além da observação seguinte. Substituir a primeira equação na etapa posterior resulta em

Não há um termo $X_t$ separado na equação original para prever dois passos adiante. Mesmo assim, a influência de $X_t$ chega a $X_{t+2}$ por meio de $X_{t+1}$.

A mesma propagação continua em outros lags:

Depois de executar a visualização, observe que a ACF não desaparece após o lag $1$. Embora tenhamos definido apenas uma relação direta de um passo, ainda há autocorrelações relevantes nos lags $2$, $3$ e seguintes.

Para um processo estacionário dessa forma, a autocorrelação da população segue

Portanto,

e

Em uma amostra finita e ruidosa, os valores medidos não serão exatamente iguais a esses números, mas deverão ficar razoavelmente próximos quando a série for longa o bastante.

Esse decaimento revela como a relação de um passo se propaga ao longo do tempo. A ACF no lag $2$ contém a relação transmitida pelo lag $1$; a ACF no lag $3$ contém relações transmitidas pelas observações anteriores; e o mesmo padrão continua nos lags posteriores.

Agora que sabemos que a ACF combina relações diretas e propagadas, surge uma nova pergunta:

Podemos isolar a relação associada a um lag específico depois de remover as relações transmitidas pelos valores intermediários?

Removendo a influência

Para separar relações diretas das relações transmitidas ao longo do tempo, precisamos de mais uma ideia familiar do aprendizado de máquina: o resíduo.

Suponha que um modelo linear prediga $Y_t$ a partir de um conjunto de características:

Depois de ajustar o modelo, obtemos uma previsão $\widehat{Y}_t$. A diferença entre o valor observado e o valor previsto pelo modelo é o resíduo:

Isso nos permite separar uma observação em dois componentes:

Aqui, “não explicado” não significa aleatório nem impossível de compreender. Significa apenas que o modelo não capturou essa parte usando os preditores que fornecemos. O resíduo é útil porque nos deixa conservar aquilo que sobra depois que esses preditores fazem seu trabalho.

Antes de generalizar essa ideia, considere uma janela de lag $2$ da série sintética acima. Suas três observações, arredondadas para exibição, são

Em todas as janelas disponíveis no lag $2$, ajustamos um modelo que usa o valor intermediário para predizer o extremo esquerdo e outro que o usa para predizer o extremo direito. Para esta janela, esses modelos predizem $-0{,}09$ à esquerda e $-0{,}08$ à direita. Portanto, os resíduos são

Essa janela acrescenta o ponto $(0{,}23,-0{,}19)$ ao gráfico de dispersão dos resíduos. Os extremos originais não entram diretamente no gráfico. Restam apenas as partes que a observação intermediária não conseguiu predizer.

Voltemos agora a duas observações separadas por $n$ passos: $X_t$ e $X_{t+n}$. Entre elas estão as observações

Esses valores intermediários são precisamente o caminho pelo qual uma observação anterior pode ecoar em uma posterior. Por isso, damos a eles uma tarefa: predizer os dois extremos.

Para uma janela da série, reúna as observações intermediárias em um vetor de características:

Use o mesmo vetor em dois modelos lineares. Um prediz o extremo à esquerda,

e o outro prediz o extremo à direita:

Agora subtraia cada previsão do extremo observado correspondente:

Cada janela nos dá um par de resíduos. O par contém o que os valores intermediários não conseguiram predizer à esquerda e o que não conseguiram predizer à direita. São esses resíduos — e não as observações originais — que colocamos no gráfico de dispersão.

Deslize a janela adiante e repita. À medida que os valores intermediários destacados percorrem a série, cada posição acrescenta um par de resíduos. A correlação entre eles é

Se os resíduos ainda se alinharem, os extremos conservam uma relação linear que as observações entre eles não explicaram. Se a nuvem perder sua direção, a relação aparente era transmitida principalmente pelos valores intermediários.

No lag $1$, não há observação intermediária para remover. Por isso, o gráfico de dispersão dos resíduos preserva a mesma relação que vimos na ACF, e a correlação parcial permanece próxima de $0{,}8$.

No lag $2$, a faixa móvel contém $X_{t+1}$. Depois que esse valor intermediário é usado para predizer $X_t$ e $X_{t+2}$, a nuvem de resíduos perde quase toda a inclinação. A barra cai para perto de zero. Os lags posteriores se comportam de maneira semelhante nesta série.

Essa é a distinção que procurávamos. A ACF mostrou que uma relação alcança vários passos no tempo. A varredura dos resíduos revela que a maior parte dessa relação posterior percorre as observações intermediárias.

A relação que resta é a autocorrelação parcial no lag $n$:

em que os dois resíduos vêm de previsões feitas com as observações intermediárias

Agora, as duas funções respondem a perguntas relacionadas, porém diferentes.

A ACF pergunta:

Qual é a correlação entre duas observações separadas por $n$ passos no tempo?

A PACF faz uma pergunta mais específica:

Qual é a correlação entre essas observações depois de remover as relações lineares explicadas por tudo o que existe entre elas?

No lag $1$, não há observações intermediárias para remover. Portanto,

Para lags maiores, a distinção importa. A ACF enxerga a relação completa através do intervalo. A PACF pergunta quanto dessa relação sobrevive depois que o caminho pelos valores intermediários é removido.

Lendo os ecos

Agora podemos ler a ACF e a PACF como duas visões da mesma memória temporal.

A ACF mostra como a dependência se propaga. Se uma informação entra na série em certo ponto e é carregada adiante por observações posteriores, seu eco pode permanecer visível por vários lags. Uma ACF que decai lentamente sugere que essa informação persiste. Picos que retornam em distâncias regulares podem revelar sazonalidade. Uma ACF próxima de zero depois de uma distância curta sugere que o eco linear não viaja muito longe.

Esse é o ponto forte da ACF: ela mostra a relação total em cada intervalo. Sua limitação é não separar uma relação que pertence ao lag $n$ de outra que apenas chegou até ali pelos lags intermediários.

A PACF procura a relação acrescentada por um lag específico. Uma autocorrelação parcial alta no lag $n$ indica que esse lag ainda contribui com informação linear depois que os lags intermediários são levados em conta. Nesse sentido, a PACF costuma oferecer uma visão mais clara quando queremos identificar relações individuais entre lags.

Essa diferença se torna útil ao diagnosticar duas famílias clássicas de modelos de séries temporais.

Um modelo autorregressivo, ou modelo AR, prediz o presente a partir de valores anteriores da mesma série. Como um valor influencia o seguinte e essa influência pode continuar adiante, sua ACF costuma se dissipar aos poucos. A PACF pode apresentar um ponto de corte mais claro depois dos lags usados diretamente pelo modelo.

Um modelo de médias móveis, ou modelo MA, constrói cada valor a partir dos choques aleatórios atual e recentes. Aqui, “médias móveis” nomeia um modelo probabilístico; não é o suavizador por média móvel frequentemente usado em gráficos. Como apenas um conjunto limitado de choques se sobrepõe entre as observações, a ACF pode mostrar o ponto de corte mais nítido, enquanto a PACF se dissipa aos poucos.

Essa é a pista clássica de um processo semelhante a AR: a ACF carrega adiante a relação propagada, enquanto a PACF isola o primeiro lag como a principal relação individual. Se a ACF tivesse um corte claro e a PACF se dissipasse, o padrão seria mais compatível com um processo semelhante a MA.

Esses padrões são pistas, não regras automáticas de seleção de modelos. Séries reais podem combinar comportamentos autorregressivos e de médias móveis, conter tendências ou sazonalidades, mudar ao longo do tempo ou produzir picos isolados por ruído amostral. Os gráficos ajudam a formular uma hipótese; a validação e o conhecimento do domínio ainda determinam se essa hipótese é útil.

O valor diagnóstico das duas funções também vai além dos modelos AR e MA clássicos. Antes da modelagem, a ACF pode revelar persistência e distâncias sazonais recorrentes, enquanto a PACF pode sugerir quais lags individuais merecem mais atenção. Depois da modelagem, as duas funções podem ser aplicadas aos resíduos. Se ainda houver correlações fortes, o modelo deixou parte da estrutura temporal sem explicação.

Isso continua útil mesmo quando o modelo final de previsão é um modelo de espaço de estados, um sistema baseado em árvores ou uma rede neural. ACF e PACF são maneiras compactas de perguntar se o passado ainda deixa um sinal linear detectável — e se esse sinal se propaga pela série ou se concentra em lags específicos.