共计 5640 个字符,预计需要花费 15 分钟才能阅读完成。
作者:天琼,「数据游戏」优胜队伍成员
介绍
本文整理记录了参与的一次小型数据分析竞赛「数据游戏」,竞赛目标是预测 2019 年 5 月 15 日 A 股闭市时招商银行 600036 的股价。
主要思路是利用 ARIMA 算法做时间序列预测。
使用的数据是公开的数据集 tushare。
拿到题目和数据之后,首先结合既往经历,觉得想要预测准股价,本身是一个不可能的事情,尤其是 A 股。
影响股价的因素非常复杂而且不透明,以及金融投资领域具有的反身性理论,使得这次预测更多偏向于实验性质,同时对竞争结果不要有过高的期望。
预测得准,是你的运气;预测的烂,也不会影响你从中学到什么。学习第一,比赛第二吧。
鉴于以上,本次预测只使用了 close 的时间序列。更多的数据其实并没有什么用。
首先了解下本文的 ARIMA 建模过程
- 获取时间序列数据;
- 观察数据是否为平稳时间序列;
- 对于非平稳时间序列要先进行 d 阶差分运算,转化为平稳时间序列;
- 对处理得到的平稳时间序列,求它的阶数 p,q;
- 根据 ARIMA 算法建模,ARIMA(data, order=(p, d, q))
- 模型检验和调优
- 预测
初学的小伙伴们可能对这个过程并不熟悉,没关系,先背下来。
对 Python 不熟悉的小伙伴们,我给大家总结了几句车轱辘话,大家先强行了解下。
- 获取时间序列数据:
data = pd.read_excel(‘600036.xlsx’, index=None)
train = data[‘close’]
- 观察数据是否为平稳时间序列;对于非平稳时间序列要先进行 d 阶差分运算,转化为平稳时间序列;
adf_data = sts.adfuller(train)
diff = train.diff(1)
- 对处理得到的平稳时间序列,求它的阶数 p, q
sm.tsa.arma_order_select_ic(train, max_ar=8, max_ma=8, ic=[‘aic’,‘bic’,‘hqic’])
- 根据 ARIMA 算法建模
ARMAModel = sm.tsa.ARIMA(train, order=(4,1,2)).fit()
- 模型检验和调优
train_shift = train.shift(1)
pred_recover = predicts.add(train_shift)
np.sqrt(sum( (pred_recover -train) ** 2)/train.size )
- 预测
f = ARMAModel.forecast(3)
以上,是本文的核心代码,大家如果一时看不懂,可以跳过。
可以看看下面更详细的步骤。
导入数据并处理
# 导入必须的模块
import tushare as ts #使用的公开的数据
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import statsmodels.api as sm
import statsmodels.tsa.stattools as sts
import wconfig as wc #自定义打印输出控制模块,与本次竞赛无关
wc.dispy()
# 导入数据,从去年 1 月开始即可
data = ts.get_hist_data('600036', start='2018-01-08', end='2019-05-10').sort_index()
#data = ts.get_hist_data('600036', start='2018-04-01').sort_index().reset_index()
# 数据安全和源数据备份
#data.to_excel('600036.xlsx')
# 源数据可靠性检查。12 日发现 tushare 的数据有错误,需要手工矫正(13 日该数据恢复正常)。print('tushare 中 5 月 10 日 close 股价为: %.2f 元,与实际不符!' % (data['close']['2019-05-10']))
data['close']['2019-05-10']=33.61
print('当日实际收盘价应为: %.2f 元' % data['close']['2019-05-10'])
# 只取 close 字段作为训练数据
train = data['close']
train.index = pd.to_datetime(train.index) # 将字符串索引转换成时间索引
train.tail()
train.tail().index
tushare 中 5 月 10 日 close 股价为: 33.48 元,与实际不符!
当日实际收盘价应为: 33.61 元
检验时间序列的稳定性
ARIMA 算法要求时间序列稳定,所以在建模之前,要先检验时间序列的稳定性。
adfuller 就是用来干这个的。
adfuller 全称 Augmented Dickey–Fuller test,即扩展迪基 - 福勒检验,用来测试平稳性。
先做一个解释器, 让 adfuller 的输出结果更易读易理解:
def tagADF(t):
result = pd.DataFrame(index=["Test Statistic Value", "p-value", "Lags Used",
"Number of Observations Used",
"Critical Value(1%)", "Critical Value(5%)", "Critical Value(10%)"],
columns=['value']
)
result['value']['Test Statistic Value']=t[0]
result['value']['p-value']=t[1]
result['value']['Lags Used']=t[2]
result['value']['Number of Observations Used'] = t[3]
result['value']['Critical Value(1%)']=t[4]['1%']
result['value']['Critical Value(5%)']=t[4]['5%']
result['value']['Critical Value(10%)']=t[4]['10%']
print('t is:', t)
return result
adfuller 检验是检查时间序列平稳性的统计测试之一。这里的零假设是:序列 train 是非平稳的。
测试结果包括测试统计和差异置信水平的一些关键值。如果测试结果中的 P-value 小于临界值,我们可以拒绝原假设并说该序列是平稳的。
adf_data = sts.adfuller(train)
tagADF(adf_data)
检验结果显示,p-value=0.414, 远远大于 5% 的临界值,说明零假设是成立的,即序列 train 是非平稳的。
t is: (-1.7325346908056185, 0.4144323576685054, 0, 322, {‘1%’: -3.4508226600665037,‘5%’: -2.870558121868621,‘10%’: -2.571574731684734}, 523.9067372199033)
时间序列平稳化
为了让时间序列平稳,需要对 train 序列做差分运算:
# df.diff 差分运算,默认是后一行减前一行
# http://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.diff.html?highlight=diff#pandas.DataFrame.diff
diff = train.diff(1).dropna() # df.dropna 删除有缺失值的行
plt.figure(figsize=(11,6)) # 指定显示大小
plt.plot(diff, label='Diff') # 绘制趋势图
plt.legend(loc=0) # 显示图例,loc 指定图例位置,0 为最佳位置。
关于时间序列稳定性的判断标准,可参考这篇博客:https://blog.csdn.net/u012735…
检验差分数据的平稳性
检验差分后数据的平稳性,和第一次验证方法相同
adf_Data1 = sts.adfuller(diff)
tagADF(adf_Data1) # p-value 很小,零假设不成立,因此,diff 数据序列符合平稳性要求。
确定 ARIMA 的阶数 p,q
在这里,先简单解释下自己对 ARIMA 算法的理解。不正确的地方请大家指点。
ARIMA 算法认为时间序列上 t 时刻的值由 2 部分构成,第一部分是由之前 p 项历史值决定的,比如 15 日的收盘价是 12 日,13 日,14 日的收盘价的线性回归,用 AR§表示。
但是这个线性回归的输出值肯定和 15 日的实际收盘价有一个误差,假设是 e。
所以第二部分就是如果表示这个 e。
这个 e 可以认为是之前 q 项误差的线性回归,用 MA(q) 表示。
两部分合起来就是 ARMA。
然后为了让时间序列平稳,再加个 d 阶差分操作功能,就变成了 ARIMA 算法。
所以在使用 ARIMA 算法之前,需要先确定(p, d, q)的值。
确定 ARIMA 的阶数 p,q
# ARMA(p,q) 是 AR(p) 和 MA(q) 模型的组合,关于 p 和 q 的选择,一种方法是观察自相关图 ACF 和偏相关图 PACF,
# 另一种方法是通过借助 AIC、BIC 等统计量自动确定。ic = sm.tsa.arma_order_select_ic(
train,
max_ar=8,
max_ma=8,
ic=['aic', 'bic', 'hqic']
)
ic
建立模型并拟合数据
注意 ARIMA 的参数中,输入数据 应该是原始数据 train,ARIMA 会根据 d 的值,对原始数据做 d 阶差分运算。
d 的含义是,输入序列需要先经过一个 d 阶的差分,变成一个平稳序列后才能进行数据拟合。
ARMAModel = sm.tsa.ARIMA(train, order=(4,1,2)).fit() # order=(p,d,q)
# fittedvalues 和 diff 对比
plt.figure(figsize=(11, 6))
plt.plot(diff, 'r', label='Orig')
plt.plot(ARMAModel.fittedvalues, 'g',label='ARMA Model')
plt.legend()
模型评估和调优
# 样本内预测
predicts = ARMAModel.predict()
# 因为预测数据是根据差分值算的,所以要对它一阶差分还原
train_shift = train.shift(1) # shift 是指 series 往后平移 1 个时刻
pred_recover = predicts.add(train_shift).dropna() #这里 add 是指两列相加,按 index 对齐
# 模型评价指标 1:计算 score
delta = ARMAModel.fittedvalues - diff
score = 1 - delta.var()/train.var()
print('score:\n', score)
# 模型评价指标 2:使用均方根误差(RMSE)来评估模型样本内拟合的好坏。#利用该准则进行判别时,需要剔除“非预测”数据的影响。train_vs = train[pred_recover.index] # 过滤没有预测的记录
plt.figure(figsize=(11, 6))
train_vs.plot(label='Original')
pred_recover.plot(label='Predict')
plt.legend(loc='best')
plt.title('RMSE: %.4f'% np.sqrt(sum((pred_recover-train_vs)**2)/train_vs.size))
plt.show()
# 局部数据观察
train_t = train_vs.tail(15)
pred_t = pred_recover.tail(15)
plt.figure(figsize=(11, 6))
train_t.plot(label='Original')
pred_t.plot(label='Predict')
plt.legend(loc='best')
plt.title('RMSE: %.4f'% np.sqrt(sum((pred_t-train_t)**2)/train_t.size))
plt.show()
预测目标
使用 forecast 对样本外的时间序列进行预测。
关于 foreast 和 predict 的区别:
predict 可以对样本内和样本外的进行预测,结果是一样的。
举例说明:forecast(10),表示对未来 10 个点进行预测,但是可以用 model.fittedvalues 查看样本内点的拟合值;
而 predict(start,end) 里面的参数 0 表示样本内的第一个数,以此类推。
如果想要预测样本外的数,需要将 start 设置为 len(data)+1, 即数据长度 +1,才表示预测样本外的第一个数字。
而 forecast 函数,是对样本外的数据进行预测。
但是这两个函数的预测结果是一样的。
另外,需要提到的是,ARIMA 算法一般只能预测一点点,越长越不准确,即便是简单的正弦函数也不能准确预测。
# 预测 15 日 close 股价,即 10 日之后的第三个交易日的收盘价
# 但是通过上面的局部数据观察发现,预测的数据趋势会延迟 1 个交易日,所以就取 f[0][1]
f = ARMAModel.forecast(3) # 样本外预测
print('5 月 15 日 close 时的股价为:%.2f 元' % f[0][1])
#---- 结束 -----
5 月 15 日 close 时的股价为:33.82 元。
顺便安利下这次参与的小竞赛「数据游戏」,是由个人发起、异步社区(邮电出版社)赞助的活动。
总体来说,这个比赛氛围适中,没有太大的心理负担。
所以感觉比较适合打算初入的小伙伴,参与之后,这样的经验对以后的学习进阶和职业发展都有好处。
Ad Time
学习更多数据科学知识请关注微信公众号:read_csv
参与数据科学活动请加 QQ 群:759677734