MongoDB:股票价格数据的汇总

时间:2014-05-02 14:20:40

标签: python mongodb pymongo aggregation-framework

我使用MongoDB来存储我的股票价格数据。我每分钟每个股票代码有一个文件:

{
"_id" : ObjectId("535fb330f6a03d59077db43c"),
"symbol" : "AAPL",
"ts_minute" : ISODate("2014-04-29T14:12:00Z"),
"ticks" : [
    {
        "mu" : 115864,
        "ae" : true,
        "t" : 2,
        "v" : 571.93
    },
    {
        "mu" : 803378,
        "ae" : true,
        "t" : 2,
        "v" : 571.91
    },
    {
        "mu" : 903378,
        "ae" : false,
        "t" : null,
        "v" : 9000
    }
}

其中mu是自ts_minute以来的微秒距离,t是刻度类型(出价,询问,开启,关闭,交易量等),v是值。

要将它聚合成OHLC的细微条形(开放,高,低,关闭),我使用以下(使用PyMongo):

query = {'$match': {'symbol': 'AAPL'}}
projection = {
    '$project': {
        'symbol':       1,
        'year':         {'$year':   '$ts_minute'},
        'month':        {'$month':  '$ts_minute'},
        'day':          {'$dayOfMonth': '$ts_minute'},
        'hour':         {'$hour':   '$ts_minute'},
        'minute':       {'$minute': '$ts_minute'},
        'ts_minute':    1,
        'ticks':        1
    }
}
unwind = {'$unwind': '$ticks'}
sort = {'$sort': {'ts_minute': 1}}
group = {
    '$group': {
        '_id': {
            'symbol':   '$symbol',
            'year':     '$year',
            'month':    '$month',
            'day':      '$day',
            'hour':     '$hour',
            'minute':   '$minute'
        },
        'open':     {'$first':  '$ticks.v'},
        'high':     {'$max':    '$ticks.v'},
        'low':      {'$min':    '$ticks.v'},
        'close':    {'$last':   '$ticks.v'},
    }
}
bars = tick_collection.aggregate([query, projection, unwind, sort, group])

问题是我在同一个数组中存储了音量标记和价格标记。通过使t等于null来识别卷标记。所以你看,当我分组时,我的价格滴答和成交量混合。我想汇总到OHLCV,以便OHLC基于t不等于null,而V应该是t等于null的数组的最后一个元素

有意义吗?或者只是糟糕的架构设计? ; - )

1 个答案:

答案 0 :(得分:2)

为了提高性能,你真的需要将$sort移到展开之前 - 它将与$match结合使用并使用适当的索引({symbol:1,ts_minute:1所以我希望你有那个索引可用)。该项目应该在unwind之后创建聚合所需的价格和数量字段。您似乎应该直接按ts_minute分组。要做的更改是:

query = {'$match': {'symbol': 'AAPL'}}
sort = {'$sort': {'ts_minute': 1}}
unwind = {'$unwind': '$ticks'}
projection = {
    '$project': {
        'symbol':       1,
        'ts_minute':    1,
        'volume' : { '$cond' : [
        {"$eq" : ["$ticks.t",null]},
        "$ticks.v",
        0
    ] },
    "price" : { "$cond" : [
        {"$eq" : ["$ticks.t",null] },
        null,
        "$ticks.v"
    ] }
    }
}

group = {
    '$group': {
        '_id': {
            'symbol':   '$symbol',
            'minute':   '$ts_minute'
        },
        'open':     {'$first':  '$price'},
        'high':     {'$max':    '$price'},
        'low':      {'$min':    '$price'},
        'close':    {'$last':   '$price'},
        'volume':   {'$sum':    '$volume'}
    }
}
bars = tick_collection.aggregate([query, sort, unwind, projection, group])