R中最快的高-宽旋转
我正在处理一个表单的简单表格
date variable value
1970-01-01 V1 0.434
1970-01-01 V2 12.12
1970-01-01 V3 921.1
1970-01-02 V1 -1.10
1970-01-03 V3 0.000
1970-01-03 V5 312e6
... ... ...
对(日期、变量)是唯一的。我想把这张桌子改成宽幅的。
date V1 V2 V3 V4 V5
1970-01-01 0.434 12.12 921.1 NA NA
1970-01-02 -1.10 NA NA NA NA
1970-01-03 0.000 NA NA NA 312e6
我希望以尽可能快的方式完成此操作,因为我必须在包含1e6条记录的表上重复该操作。在R原生模式中,我认为tapply()
、reshape()
和d*ply()
都由data.table
控制速度。我想用基于SQLite的解决方案(或其他数据库)来测试后者的性能。以前有人这么做过吗?是否有性能提升?另外,当"宽"字段的数量(日期)可变且事先未知时,如何在SQLite中将高到宽转换为宽?
解决方案
我使用的方法基于tapply
所做的工作,但速度大约快一个数量级(主要是因为没有每个单元的函数调用)。
从Prasad的帖子使用tall
计时:
pivot = function(col, row, value) {
col = as.factor(col)
row = as.factor(row)
mat = array(dim = c(nlevels(row), nlevels(col)), dimnames = list(levels(row), levels(col)))
mat[(as.integer(col) - 1L) * nlevels(row) + as.integer(row)] = value
mat
}
> system.time( replicate(100, wide <- with(tall, tapply( value, list(dt,tkr), identity))))
user system elapsed
11.31 0.03 11.36
> system.time( replicate(100, wide <- with(tall, pivot(tkr, dt, value))))
user system elapsed
0.9 0.0 0.9
关于订单可能出现的问题,应该不会有任何问题:
> a <- with(tall, pivot(tkr, dt, value))
> b <- with(tall[sample(nrow(tall)), ], pivot(tkr, dt, value))
> all.equal(a, b)
[1] TRUE
相关文章