Reddit r/SideProject· /u/Weekly-Dentist-8302·· 10 天前AI 评分42
独立开发者用 Swift 和 Metal 自研推理引擎，TUFF 更新至 8.0 并免费开源
My Mac AI side project just reached version 8.0 and I’m finally starting to use it instead of ChatGPT
AI 导读
独立开发者用 Swift 和 Metal 自研推理引擎 TUFF，让 16GB M2 MacBook Air 通过 SSD 流式加载运行超出内存的大模型，现已更新至 8.0。新版本加入网页搜索、本地文件搜索、对话缓存、本地 API 和 Homebrew 安装，作者称网页搜索最实用，小模型已能应付日常提问。TUFF 完全免费且开源，作者希望它成为有更多人参与的社区项目。
来源：Reddit r/SideProject · reddit.com