跳到正文
原文
Reddit r/SideProject· /u/Medicine_Blogscanner·· 2 天前AI 评分47

RAMDeck:把旧电脑内存池化,在局域网跑 120B AI 模型的开源工具与硬件中枢

I built a source-available tool and hardware hub to pool RAM across old PCs and run 120B AI models over LAN

AI 导读

开发者发布 RAMDeck,通过 mDNS 自动发现局域网内的 Windows、Mac、Android 设备,把各机物理内存池化并按层切分模型,让 6 台设备合计 78 GB 内存跑起 60 GB 的 120B 模型 command-r-plus-104b-q4,速度 1.37 tok/s,连续压测 3 天。

来源:Reddit r/SideProject · reddit.com