关于金融:干货丨DolphinDB高频数据处理技巧非等间隔的时间序列处理

37次阅读

共计 4117 个字符,预计需要花费 11 分钟才能阅读完成。

高频工夫序列的解决中,常常会用到滑动,偏移,聚合,转置,关联等操作。譬如说我想对一个某指标列用过来一个小时的数据的均值来做平滑解决,又或者想找到每一个时刻,该指标一个小时前的相应的指标值。如果序列中每个指标的距离是相等的而且两头没有缺失数据,譬如说 0.5s,3s,那么咱们能够把工夫窗口转化成固定记录条数的窗口,基本上罕用的数据分析软件语言都能够实现滑动窗口函数性能。如果条件不能满足,就变成了比较复杂的非等距离的工夫序列解决问题。

假如有一组这样的数据:

time   val
------ ---
12:31m 1  
12:33m 2  
12:34m 3  
12:35m 4  
12:37m 5  
12:40m 6  
12:41m 7  
12:42m 8  
12:43m 9  
12:45m 10 

咱们在每一个工夫点上,须要计算过来 5 分钟内 val 的均值。因为每条数据的工夫距离不相等,咱们不能确定工夫窗口的数据条数。因而,咱们须要将数据逐条与工夫窗口的边界比照,找到工夫窗口中的数据,再计算 avg(val)。

这一类问题,DolphinDB 和 kdb 均提供了 window join,能够不便地实现这一工作。DolphinDB 的实现脚本如下:

t=table(12:31m 12:33m 12:34m 12:35m 12:37m 12:40m 12:41m 12:42m 12:43m 12:45m as time,1..10 as val)
wj(t,t,-5:-1,<avg(val)>,`time)
time   val avg_val
------ --- -------
12:31m 1          
12:33m 2   1      
12:34m 3   1.5    
12:35m 4   2      
12:37m 5   3      
12:40m 6   4.5    
12:41m 7   5.5    
12:42m 8   6      
12:43m 9   7      
12:45m 10  7.5 

window join 须要提供左右表、工夫窗口、聚合函数和连贯列。左表用于指定产生计算的工夫点,右表是原始数据。-5:- 1 是工夫窗口,示意以后时刻的前 5 分钟。如果工夫窗口的高低边界都为负数,如 1:5,示意以后时刻的后 5 分钟。如果工夫窗口的边界为 0,如 -5:0 或 0:5,示意以后时刻也蕴含在工夫窗口内。如果工夫窗口的高低边界是一正一负,如 -5:5,示意过来 5 分钟到将来 5 分钟,以后时刻也蕴含在窗口中。

上面具体解释一下计算过程。以第一条数据为例,产生计算的工夫点为 12:31m,数据窗口为 12:31m- 5 到 12:31m-1,即 12:26m 到 12:30m,高低边界都蕴含在内。零碎会在 t 中寻找工夫在数据窗口的数据,并对它们计算 avg(val),如此类推。

下面的例子中,数据只蕴含一只股票,如果数据蕴含多只股票,要求每一时刻每只股票过来 5 分钟的 avg(val),那要怎么操作呢?window join 能够指定多个连贯列,零碎会先依据后面 N – 1 连贯列做等值连贯(equal join),在每一个细分的组中,再依据最初一个连贯列做 window join。请看上面的例子,假如原始数据如下:

time   sym val
------ --- ---
12:31m A   1  
12:31m B   2  
12:33m A   3  
12:33m B   4  
12:34m B   5  
12:35m A   6  
12:35m B   7  
12:36m A   8  
12:28m A   9  
12:39m B   10 
12:40m A   11 
12:40m B   12 

当初要计算每一时刻,过来 5 分钟内每只股票代码的 avg(val)。脚本如下:

t=table(12:31m 12:31m 12:33m 12:33m 12:34m 12:35m 12:35m 12:36m 12:28m 12:39m 12:40m 12:40m as time,`A`B`A`B`B`A`B`A`A`B`A`B as sym,1..12 as val)
wj(t,t,-5:-1,<avg(val)>,`sym`time)
time   sym val avg_val 
------ --- --- --------
12:31m A   1           
12:31m B   2           
12:33m A   3   1       
12:33m B   4   2       
12:34m B   5   3       
12:35m A   6   2       
12:35m B   7   3.666667
12:36m A   8   3.333333
12:28m A   9           
12:39m B   10  6       
12:40m A   11  7.666667
12:40m B   12  8.5 

以左表的第一条数据为例,sym=A,time=12:31m,因而数据窗口为 12:26m 到 12:30m,零碎会在右表中寻找在工夫窗口中的数据,并且 sym= A 的数据来计算 avg(val)。

DolphinDB 的 window join 反对任意聚合函数,既反对内置的 avg、beta、count、corr、covar、first、last、max、med、min、percentile、std、sum、sum2、var 和 wavg,也能够反对用户自定义的聚合函数;聚合函数的参数能够是一个,也能够是多个;参数既能够是表中的某一列,也能够是一个计算字段。

和不同的聚合函数联合,能够满足很多业务场景的须要。试想这样一个场景,有两个表 t1 和 t2,它们的内容如下:

t1=table(1 3 5 7 2 as id, 2012.06.12 2013.06.26 2014.06.14 2015.06.23 2016.06.19 as date)
t2=table(1 2 6 7 8 as id,5 2 4 7 9 as val,2014.10.20 2015.02.05 2016.08.15 2017.12.23 2018.06.23 as date)

当初要找出 t2 中与 t1 的 id 对应,并且工夫在 t1 工夫之后的第一条记录。应用 DolphinDB 能够十分不便地实现:

wj(t1,t2,1:(365*100),<first(val)>,`id`date)
id date       first_val
-- ---------- ---------
1  2012.06.12 5        
3  2013.06.26          
5  2014.06.14          
7  2015.06.23 7        
2  2016.06.19 

这里咱们设置的数据窗口是 1:36500,即 100 年。这是为了避免 t2 中每条数据 date2 的距离过大,数据没有落在数据窗口中的状况呈现。在传统数据库中,如 SQL Server,须要通过自定义函数来实现。代码如下:

create table t1(id int,date date)
insert into t1 values(1,'2012-06-12')
insert into t1 values(3,'2013-06-26')
insert into t1 values(5,'2014-06-14')
insert into t1 values(7,'2015-06-23')
insert into t1 values(2,'2016-06-19')
go
create table t2(id int,val int,date date)
insert into t2 values(1,5,'2014-10-20')
insert into t2 values(2,2,'2015-02-05')
insert into t2 values(6,4,'2016-08-15')
insert into t2 values(7,7,'2017-12-23')
insert into t2 values(8,9,'2018-06-23')
go

create function [dbo].[getRight]
(
    @curid int,
    @curdate date
)
returns int
as
begin
    declare @reV int
    select top 1 @reV = val from t2 where id=@curid and date>=@curdate
    return @reV
end
go

select id,date,dbo.getRight(id,date) as 'first' from t1

SQL Server 的性能较差,DolphinDB 大概比 SQL Server 快 300 倍。

pandas 的 rolling 函数只能解决等工夫距离的数据,不能解决非等工夫距离的数据。DolphinDB 和 kdb+ 则都可解决。上面咱们随机生成一个一千万行的表来测试 DolphinDB 和 kdb+ 中 window join 的性能。测试应用的机器配置如下:

CPU:Intel(R) Core(TM) i7-7700 CPU @3.60GHz 3.60 GHz

内存:16GB

OS:Windows 10

DolphinDB 脚本如下:

n=10000000
t=select * from table(rand(2012.06.12T12:00:00.000..2012.06.30T12:00:00.000,n) as time,rand(`A`B`C`D`E,n) as sym,rand(100.0,n) as x) order by time 
timer wj(t,t,-6:0,<avg(x)>,`sym`time)

kdb+ 脚本如下:

n:10000000
t:`sym`time xasc ([]time:2012.06.12T12:00 + (n ? 1000000);sym:n ? `A`B`C`D`E;x:n ? 100.0)
update `p#sym from `t
f:`sym`time
w:-6 0+:t.time
t wj1[w;f;t;(t;(avg;`x))]

DolphinDB 耗时 456 毫秒,kdb+ 耗时 16,398 毫秒 。咱们调整工夫窗口的长度,测试 DolphinDB 和 kdb+ 的体现如何。工夫窗口为 60 毫秒,DolphinDB 耗时 455 毫秒,kdb+ 耗时 21,521 毫秒 ;工夫窗口为 600 毫秒,DolphinDB 耗时 500 毫秒,kdb+ 耗时 73,649 毫秒 。能够看到,DolphinDB window join 的性能与窗口长度无关,而 kdb+ wj1 中的性能与窗口的长度无关,窗口越长,耗时越长。这是因为 DolphinDB 对内置的聚合函数 avg 做了优化,在 window join 中的计算速度与窗口无关。这些优化的聚合函数包含 avg、beta、count、corr、covar、first、last、max、med、min、percentile、std、sum、sum2、var 和 wavg。

DolphinDB database 下载:www.dolphindb.cn

DolphinDB 技术交换群:智臾科技:DolphinDB 技术交换群,内含二维码

正文完
 0