alansalexer
V2EX  ›  问与答

Feed 去重

  •  
  •   alansalexer · May 2, 2015 · 2688 views
    This topic created in 4099 days ago, the information mentioned may be changed or developed.

    订阅多个资讯网站以后,会发现部分资讯是重复的。相似的资讯,A/B/C 三个网站的feed流里都有。
    有没有什么工具是可以将feed流去重或按关键词分一下组,再展示给用户呢?

    6 replies    2015-05-02 23:52:19 +08:00
    zts1993
        1
    zts1993  
       May 2, 2015
    去重复的话,检测文本是否相似吧,最简单的是VSM

    关键词分组最简单就是用朴素贝叶斯分类器了

    这两个自己写代码应该不复杂
    Stof
        2
    Stof  
       May 2, 2015 via iPhone
    目前来说成品没有。
    whtsky
        3
    whtsky  
       May 2, 2015 via iPhone
    买个 Fever ,看 Hot
    myoula
        4
    myoula  
       May 2, 2015
    百度有个算法,也比较简单。
    把内容按照一句一句的长度进行排序,然后把每句的hash值保存起来,根据hash值来看相似度。
    据说这种方式 80%左右的几率避免重复。
    binux
        5
    binux  
       May 2, 2015
    很久以前就有过这样的想法,还能给 yande.re Konachan.com 去重就更好了
    Daniel65536
        6
    Daniel65536  
       May 2, 2015
    fever有,很智能。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1019 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 19:14 · PVG 03:14 · LAX 12:14 · JFK 15:14
    ♥ Do have faith in what you're doing.