关于机器学习:如何检测时间序列中的异方差Heteroskedasticity

41次阅读

共计 3270 个字符，预计需要花费 9 分钟才能阅读完成。

工夫序列中非恒定方差的检测与解决，如果一个工夫序列的方差随工夫变动，那么它就是异方差的。否则数据集是同方差的。

异方差性影响工夫序列建模。因而检测和解决这种状况十分重要。

让咱们从一个可视化的例子开始。

上面的图 1 显示了航空公司乘客的工夫序列。能够看到在整个序列中变动是不同的。在该系列的后一部分方差更高。这也是数据程度跨度比后面的数据大。

方差的变动对预测会产生很大的影响。它会影响模型的拟合从而影响预测性能。然而只靠人眼查看方差是不事实的，所以如何更系统地检测和解决异方差问题呢?

你能够应用统计测验来查看工夫序列是否为异方差序列。其中包含以下内容。

White 测验;

Breusch-Pagan 测验;

Goldfeld-Quandt 测验

这些测验的次要输出是回归模型的残差(如一般最小二乘法)。零假如是残差的散布方差相等。如果 p 值小于显著性程度，则回绝该假如。这就阐明工夫序列是异方差的，测验显著性程度通常设置为 0.05。

Python 库 statsmodels 实现了上述三个测试。上面的代码片段将它们封装在一个类中:

 import pandas as pd
 import statsmodels.stats.api as sms
 from statsmodels.formula.api import ols
 
 TEST_NAMES = ['White', 'Breusch-Pagan', 'Goldfeld-Quandt']
 FORMULA = 'value ~ time'
 
 
 class Heteroskedasticity:
 
     @staticmethod
     def het_tests(series: pd.Series, test: str) -> float:
         """
         Testing for heteroskedasticity
 
         :param series: Univariate time series as pd.Series
         :param test: String denoting the test. One of 'white','goldfeldquandt', or 'breuschpagan'
 
         :return: p-value as a float.
 
         If the p-value is high, we accept the null hypothesis that the data is homoskedastic
         """assert test in TEST_NAMES,'Unknown test'
 
         series = series.reset_index(drop=True).reset_index()
         series.columns = ['time', 'value']
         series['time'] += 1
 
         olsr = ols(FORMULA, series).fit()
 
         if test == 'White':
             _, p_value, _, _ = sms.het_white(olsr.resid, olsr.model.exog)
         elif test == 'Goldfeld-Quandt':
             _, p_value, _ = sms.het_goldfeldquandt(olsr.resid, olsr.model.exog, alternative='two-sided')
         else:
             _, p_value, _, _ = sms.het_breuschpagan(olsr.resid, olsr.model.exog)
 
         return p_value
 
     @classmethod
     def run_all_tests(cls, series: pd.Series):
 
         test_results = {k: cls.het_tests(series, k) for k in TEST_NAMES}
 
         return test_results

异方差类蕴含两个函数：het_tests 函数利用特定的测验(White、Breusch-Pagan 或 Goldfeld-Quandt)。run_all_tests 函数一次性利用所有三个测验。这些函数的输入是相应测试的 p 值。

上面介绍如何将此代码利用于图 1 中的工夫序列。

 from pmdarima.datasets import load_airpassengers
 
 # https://github.com/vcerqueira/blog/blob/main/src/heteroskedasticity.py
 from src.heteroskedasticity import Heteroskedasticity
 
 series = load_airpassengers(True)
 
 test_results = Heteroskedasticity.run_all_tests(series)
 
 # {'Breusch-Pagan': 4.55e-07,
 # 'Goldfeld-Quandt': 8.81e-13,
 # 'White': 4.34e-07}

所有测验的 p 值都接近于零。所以咱们能够回绝零假如。这些试验为异方差的存在提供了令人信服的证据。

为了再次证实咱们的观点，咱们能够将工夫序列前半部分和后半局部方差的散布进行可视化:

这两局部的方差散布不同。Goldfeld-Quandt 测验就是应用这种类型的数据分折来测验异方差性。它查看两个数据子样本的残差方差是否不同。

解决工夫序列异方差问题的一个罕用办法是对数据进行变换。对工夫序列取对数有助于稳固其可变性。

上面是与之前雷同的工夫序列，但对其进行了对数缩放:

序列看起来很稳固。咱们对新的序列从新进行测验

 import numpy as np
 
 test_results = Heteroskedasticity.run_all_tests(np.log(series))
 
 # {'Breusch-Pagan': 0.033,
 # 'Goldfeld-Quandt': 0.18,
 # 'White': 0.10}

能够看到这次的 p 值更大。只有一个测验 (Breusch-Pagan) 回绝了零假如（这里假如显著性程度为 0.05）。

复原对数缩放转换

咱们应用对数变换后的数据进行预测，预测后果还是须要还原到原始尺度的。这是通过逆变换来实现的，在对数的状况下，你应该应用指数变换。

所以咱们的残缺预测过程的如下:

对数据进行变换，使方差稳固;

拟合预测模型;

取得预测后果，并将其复原到原始尺度。

代码如下：

 import numpy as np
 from pmdarima.datasets import load_airpassengers
 from pmdarima.arima import auto_arima
 from sklearn.model_selection import train_test_split
 
 series = load_airpassengers(True)
 
 # leaving the last 12 points for testing
 train, test = train_test_split(series, test_size=12, shuffle=False)
 # stabilizing the variance in the train
 log_train = np.log(train)
 
 # building an arima model, m is the seasonal period (monthly)
 mod = auto_arima(log_train, seasonal=True, m=12)
 
 # getting the log forecasts
 log_forecasts = mod.predict(12)
 
 # reverting the forecasts
 forecasts = np.exp(log_forecasts)

本文的重点内容总结如下：