安全护栏（Guardrails）

AI知见编辑部 · 技术原理 · 持续更新

一句话说清

套在AI外层的一道"安检门"，拦截有害的输入和输出。

护栏和模型本身是两层东西：模型负责生成，护栏负责审查。常见做法是在输入侧拦截恶意提示词，在输出侧过滤有害内容，再加一层主题限制（比如银行AI客服只回答业务问题）。

一个反常识的点：护栏比模型本身更影响用户体验。太松会出事故，太紧会"啥都不肯说"。你感觉某个AI"特别怂、动不动就拒答"，多半是护栏调得太严。

你问AI"怎么造危险品"被拒答，就是护栏在工作。企业用AI客服时，护栏能防止它被用户带偏说出违规承诺。