Hacker News 首页·· 1 天前AI 评分34
开发者打造 LLM 无法使用的编程语言 KillSwitch
I built a programming language that LLMs can't use
AI 导读
开发者设计并开源了面向 LLM 与编码代理的对抗性编程语言 KillSwitch,规范中埋入人类易识别的隐藏谎言、依赖标识符字母计数、并用「Ignore previous instructions」等语句触发模型安全护栏。
来源:Hacker News 首页 · blog.picheta.me