dong2go's recent timeline updates dong2go's recent timeline updates |
dong2goV2EX member #498444, joined on 2020-07-09 21:07:09 +08:00 |
| 做了一个带知识库 RAG 问答的 macOS GitHub Stars 工具，想听听大家的建议 分享创造 • dong2go • Aug 13 • Lastly replied by dong2go | 2 |
dong2go's recent replies
Aug 13 Replied to a topic by dong2go › 分享创造 › 做了一个带知识库 RAG 问答的 macOS GitHub Stars 工具，想听听大家的建议 |
因为考虑的是本地优先，就用了 SQLite ， 它本身没有内置向量类型，但有 sqlite-vec 等向量扩展。
Starcat 当前先把 Embedding 以 BLOB 形式保存在 SQLite 中，并在 Swift 侧计算余弦相似度。后续计划接入 sqlite-vec ，把向量检索下沉到 SQLite/C 层；不过它目前与 PostgreSQL 的 pgvector 还有差距，特别是成熟的 HNSW 、IVFFlat 等 ANN 索引能力。
因此，当知识库扩大到大量 Repo 、产生大量 Chunk 时，还会结合增量向量化、量化和 ANN 索引优化，必要时使用 Qdrant 等专用向量后端。
Starcat 当前先把 Embedding 以 BLOB 形式保存在 SQLite 中，并在 Swift 侧计算余弦相似度。后续计划接入 sqlite-vec ，把向量检索下沉到 SQLite/C 层；不过它目前与 PostgreSQL 的 pgvector 还有差距，特别是成熟的 HNSW 、IVFFlat 等 ANN 索引能力。
因此，当知识库扩大到大量 Repo 、产生大量 Chunk 时，还会结合增量向量化、量化和 ANN 索引优化，必要时使用 Qdrant 等专用向量后端。
Select Language