Reddit r/SaaS· /u/Dangerous_Net517·· 14 小时前AI 评分22
有多少人真的在测试 LLM 应用的提示注入,还是都在“发布后祈祷”?
Does anyone actually test their LLM app for prompt injection, or do we all just ship and hope?
AI 导读
一位开发者在 r/SaaS 发帖询问,大家在发布 LLM 功能前是否真的测试过提示注入、系统提示词泄露、模型越权调用工具或数据等问题,还是只靠肉眼检查后直接上线。他想知道实际做法是手动、脚本还是工具,以及是否有人在生产环境遇到过真实事故。对于完全不测试的人,他想区分是因为风险不适用,还是缺少简单可行的测试方式。
来源:Reddit r/SaaS · reddit.com