阿良｜AI 工作流 (@RealYDT) “Google 这次把本地 RAG 的门槛直接打下来了。 原本要占 31GB 内存的向量索引，现在压” — TopicDigg
阿良｜AI 工作流
@RealYDT
加入 April 2023
0 正在关注 0 粉丝
Google 这次把本地 RAG 的门槛直接打下来了。
原本要占 31GB 内存的向量索引，现在压到只要 4GB。
1000 万份文档，一台普通电脑就能跑。
更狠的是：
→ 单个向量压缩 16 倍
→ 检索速度比 FAISS 快 10%–19%
→ 不用训练
→ 不用重建索引
→ 不需要 GPU 集群
→ 全程本地运行
这意味着以后做知识库、文档搜索、个人 AI 助手，可能根本不需要昂贵的云服务。
Google 开源的不是一个小优化，而是在重新定义本地向量搜索的成本。
显示更多
