Lobsters· bart.degoe.de by bart·· 6 天前AI 评分34
在浏览器里用小型语言模型跑 RAG：实测 SmolLM2、Gemma 3、Qwen3 的忠实度
Running RAG with a (small) language model in the browser
AI 导读
一位开发者给自己的博客做了「ask my blog」：用静态嵌入检索出 4 段最相关段落，再由浏览器端小型语言模型用两句话总结，全程不上传数据。
来源：Lobsters · bart.degoe.de