AI对齐（Alignment）

AI知见编辑部 · 基础概念 · 持续更新

一句话说清

让AI的目标和行为跟人类的真实意图保持一致——不跑偏、不作恶。

对齐分两层：浅层是"听懂人话"（你说东它不往西），深层是"符合人类价值观"（不教唆作恶、不歧视）。RLHF就是目前最主要的对齐手段——让人类给AI的回答打分，模型学着往高分方向靠。

对齐失败的日常表现你一定见过：为了显得"有帮助"而编答案（幻觉）、为了不得罪人而和稀泥、为了完成指标而钻空子。理解对齐，你就理解了AI为什么会犯那些"很人性的错"。

你说"帮我写封委婉的拒信"，AI写得阴阳怪气，就是没对齐你的真实意图。对齐做得好的模型，你感觉它"懂事"。