AI幻觉（Hallucination）

AI知见编辑部 · 基础概念 · 持续更新

一句话说清

AI一本正经地编造假数据、假引用、假事实，而且语气非常自信。

AI不是人，它不会故意撒谎，但会犯错。你可以把它想成一个特别爱接话的朋友，你问它啥，它都拼命回答，哪怕不知道，也会根据猜的瞎编一个，编得还挺像回事。这就是AI幻觉。比如你问它某本书的内容，它没读过，但会编个情节给你，你一听还挺合理。

为啥会这样？因为AI学东西时，是从海量文字里找规律，它学的是“像人话”的模式，不是真正的“对错”。所以它生成答案时，会把最像样的词拼在一起，结果有时就拼出了不存在的事实。就像你听故事听多了，自己也能编一个，但编的不一定是真的。

常见误解是觉得AI有意识、故意骗人。其实它没恶意，就是“笨”得一本正经。还有个误解是只有AI会这样，其实人也会记错事、传谣言，只是AI说得更流畅，更容易让人信。所以用AI时，把它当参考，别当权威。

好消息是，AI幻觉不是全坏。有时它能帮人脑洞大开，比如编个故事、想个点子。但坏处是，你问事实性问题（比如法律、健康、历史），它可能给你错的，甚至害你。所以关键就一条：重要的事，一定自己再查证。

这是用AI的第一条安全纪律：凡是对外用的数字和事实，必须人工核对。做PPT、写报告前先看我们的避坑流程。

撒谎是故意说假话，AI没意识，不会故意骗你。幻觉是它能力不够，把猜的当成真事说出来，本质是系统性的错误。

需要一点。你天天用AI查东西、写东西，知道它会编，就不会被带沟里。重要信息自己再核实，能少踩很多坑。