Llm技术趋势雷达 (三)(四):向量化与检索 ,问答模块设计
0. 总览
0.1 数据与流程
arXiv/GitHub → 清洗/语言检测/元数据 → PDF-first 解析 → 分块(chunking)
→ 索引:SQLite FTS5 (必选)/ FAISS HNSW(可选)
→ 检索:FTS / FAISS / Hybrid(FTS 召回 + 向量重排)
→ 问答:Ollama 本地 LLM(默认 qwen2.5:14b),带引用与兜底
0.2 设计目标
可用性优先:任何组件缺失(例如 FAISS 无法安装)都不影响系统可用;自动回退到 ...
latenighttavern.hashnode.dev5 min read