我的AI小助手:RAG 本地测试记录(updating...)
预期:
数据: 本地个人计划和隐私、正常论文相关的科研、业界跟踪和研究分析,三大类都存储在本地,不要流出个人电脑。
初步的7B模型(本人MiniMac的上限)进行大体分析。
可以使用外部deepseek和grok,claude等外部API,但沟通内容是隔离和脱敏的,最简单就是7B分析的结论,进行隐私脱敏(自行设定脱敏规则)和单独目录存储(独立知识库),这个动作是离线断网进行。
然后针对沟通外部的独立知识库,可以充分利用外部大模型能力。
个人计划是使用雷电连接mac book和mac m...
blog.jlab.tech1 min read