推荐工具
RoboMongo
推荐书目
50 Tips and Tricks for MongoDB Developers
Related Blogs
Snail in a Turtleneck
nicking
V2EX  ›  MongoDB

请教一下 mongodb 千万级数据量查询优化问题

  •  
  •   nicking · Mar 6, 2019 · 18995 views
    This topic created in 2676 days ago, the information mentioned may be changed or developed.

    现公司有个日志系统,记录了很多用户的行为日志,后面会根据时间对日志进行统计,比如统计网站的哪个功能最活跃,进的人最多,才开服七天,数据已经达到了一千三百多万条了,然后统计的时候查询特别的卡,该怎么优化呢,v 友给点建议鸭,我已经在时间戳上面添加了一个索引了,但是还是很卡

    15 replies    2019-03-07 12:01:31 +08:00
    hxt
        1
    hxt  
       Mar 6, 2019
    只加了一个索引不够,功能字段也要加索引吧。
    BBCCBB
        2
    BBCCBB  
       Mar 6, 2019
    用 es 记录日志,然后统计。
    sunnyadamm
        3
    sunnyadamm  
       Mar 6, 2019 via Android
    索引加的不到位
    jingniao
        4
    jingniao  
       Mar 6, 2019 via Android
    查询条件字段加索引
    日志类还是 ES 吧……
    hilbertz
        5
    hilbertz  
       Mar 6, 2019
    1. 减少统计时读取的数据量,分段统计
    2. 构建同步数据库,在其上进行统计
    DsuineGP
        6
    DsuineGP  
       Mar 7, 2019
    反正我们的日志从 mongo 迁到 es 了,一个是 mongo 数据量大了增加索引不方便,另一个是没找到好的办法释放空间
    tony601818
        7
    tony601818  
       Mar 7, 2019
    换时间序列数据库,比如 InfluxDB
    kiddingU
        8
    kiddingU  
       Mar 7, 2019
    业务场景,mongodb 不适合把,换 es 存储把
    mineqiqi
        9
    mineqiqi  
       Mar 7, 2019
    上 es 吧,mongo 性能这么差么,mysql 千万级别的数据索引和查询写得好的话没有很慢
    nicking
        10
    nicking  
    OP
       Mar 7, 2019
    @jingniao
    @BBCCBB
    好的,我去了解下这个
    nicking
        11
    nicking  
    OP
       Mar 7, 2019
    @hilbertz 我这样想过,按天数进行查询,开发成多线程可以不呢
    janxin
        12
    janxin  
       Mar 7, 2019
    我猜是索引有问题?你要么 explain 看一下?
    hhhzccc
        13
    hhhzccc  
       Mar 7, 2019
    explain 看看索引生效没。
    nicking
        14
    nicking  
    OP
       Mar 7, 2019
    @janxin springboot 里面怎么看
    nicking
        15
    nicking  
    OP
       Mar 7, 2019
    @hhhzccc 官方提供的工具里面生效了的,但是 springboot 里面我不知道怎么看
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2921 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 47ms · UTC 08:54 · PVG 16:54 · LAX 01:54 · JFK 04:54
    ♥ Do have faith in what you're doing.