Reddit r/SideProject· /u/fuzhongkai·· 15 天前AI 评分62
TensorSharp：在 RTX 3080 笔记本上跑 176B MoE 模型的开源推理引擎
I built an open-source inference engine that runs a 176B MoE model on my RTX 3080 laptop
AI 导读
作者开源了用 C#/.NET 编写的本地 LLM 推理引擎与 agent 运行时 TensorSharp，并在 RTX 3080 Laptop（16GB VRAM + 32GB 内存 + SSD）上跑通了 176B 参数的 Qwen3.8 Flash Next。
来源：Reddit r/SideProject · reddit.com