现在在做的一个系统，会从多个外部网站抓取同类的节目数据，并将数据存在 MySQL 中。
但是这些不同的外部网站可能有相同的节目（比如标题、简介和音频都是相同/相似的），这种情况下需要做去重。想根据标题的字符串相似度来判断是否重复，并且需要能方便地查询到与一个节目所重复的其他节目。
那么问题来了，被认定为相似的两个节目，应该用什么数据结构保存下来？如果用关系型数据库，做一张两两相关的表，那表会很大，似乎不是理想的做法。
请问 V2 上的大中小牛们，业界有什么思想/框架/工具可以用来做这个事情？
现在在做的一个系统，会从多个外部网站抓取同类的节目数据，并将数据存在 MySQL 中。
但是这些不同的外部网站可能有相同的节目（比如标题、简介和音频都是相同/相似的），这种情况下需要做去重。想根据标题的字符串相似度来判断是否重复，并且需要能方便地查询到与一个节目所重复的其他节目。
那么问题来了，被认定为相似的两个节目，应该用什么数据结构保存下来？如果用关系型数据库，做一张两两相关的表，那表会很大，似乎不是理想的做法。
请问 V2 上的大中小牛们，业界有什么思想/框架/工具可以用来做这个事情？
1
Select Language