qinrui
V2EX  ›  问与答

问一个数据处理的技巧,定时采集一个页面上的链接,怎么比对、记录第二次采集发生的新增、减少?

  •  
  •   qinrui · Mar 27, 2019 via iPhone · 1613 views
    This topic created in 2642 days ago, the information mentioned may be changed or developed.
    采集信息包括链接及标题,其中链接有可能增加、减少以及减少之后又恢复,应该怎么进行比对和记录呢?
    2 replies    2019-03-27 19:50:02 +08:00
    x1596357
        1
    x1596357  
       Mar 27, 2019 via iPhone
    一堆 diff 算法,找找吧
    C1tas
        2
    C1tas  
       Mar 27, 2019 via Android
    定向采集可以提前所有需要的链接拼接后算 hash 第二次如果 hash 相同就终止
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2453 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 05:31 · PVG 13:31 · LAX 22:31 · JFK 01:31
    ♥ Do have faith in what you're doing.