V2EX 最新主题· wises·· 5 天前AI 评分18
用 Strata 替代 llm.cpp 跑 qwen3.8 flsh next:V2EX 开发者分享本地编程模型体验
[程序员] 现在我是左青龙,右白虎。
AI 导读
V2EX 用户把家里机器上的 llm.cpp 换成 Strata,运行 qwen3.8 flsh next 的 Q3_S,输出 token 飞快,比 Claude 只慢一点,编程能力也差一点但够日常用。主机配置为 48G 内存、5060Ti 16G,他在越南河内的电脑上同时跑 Claude 和 Strata。Strata 通过 sub2api 分发,可被全球调用,他预计中转站价格下限会被再次打破。
来源:V2EX 最新主题 · v2ex.com