跳到正文
原文
Hacker News Ask HN· az09mugen·· 2 小时前AI 评分22

Ask HN:本地跑 LLM 的人,你们用什么沙箱隔离?

Ask HN: Do you have any kind of sandboxing for those who run LLMs locally?

AI 导读

一位开发者计划在 Windows 上本地运行 LLM,因无法确定模型行为,考虑用 Sandboxie 或更开放的开源沙箱包裹 llama.cpp,并想了解 macOS、Linux 上是否有人这样隔离运行。他还询问是否有人观察到模型出现未经请求的系统调用或网络请求等异常行为。

来源:Hacker News Ask HN · news.ycombinator.com