模型量化（Quantization）

AI知见编辑部 · 技术原理 · 持续更新

一句话说清

把AI模型里又大又笨的数字换成更小的，让它跑得更快、占地方更少。

大白话详解

想象一下，你有一本超级厚的菜谱，每道菜都写着精确到小数点后十位的调料克数，比如‘盐3.1415926535克’。虽然很精确，但抄起来费劲，做菜时称量也麻烦。模型量化就是把这种‘精确到变态’的数字，改成‘盐3克’这种简单写法。AI模型里存着大量这样的数字，量化就是统一把它们‘四舍五入’成更简单的形式，让模型文件变小，计算变快。

那会不会变笨呢？会有一点，但通常很小。就像做菜，放3克盐和3.14克盐，味道差别你根本尝不出来。量化就是用这点几乎感觉不到的‘味道损失’，换来‘上菜速度快一倍’和‘厨房（内存）省一半’。所以手机上的AI功能，比如语音识别、实时翻译，基本都是量化过的模型，不然硬件根本带不动。

很多人以为量化是‘压缩文件’或者‘删减内容’，其实不是。它没有删掉任何‘知识’，只是把每个数字的‘精度’降低了。就像你把高清照片改成普通清晰度，内容还是那张照片，只是细节没那么丰富，但看起来依然清楚。所以量化后的模型，该会什么还是会什么，只是没那么‘斤斤计较’了。

跟你有什么关系

手机上的AI助手、相机美颜能实时响应，靠的就是量化。没有它，AI应用会又慢又占内存。

大家常问

量化和压缩文件（比如zip）有什么区别？

压缩文件是把数据打包变小，用的时候要解压还原，一点不丢。量化是直接改变数字的精度，永久变小，用的时候不用还原，但会损失一点点精度，换来更快的速度。

普通人需要懂量化吗？

不用懂细节，但知道它能让AI跑得更快、更省电就够了。下次手机AI反应慢，你就能猜到可能是没用好量化，或者硬件太老。

下一步做什么

看一篇实战教程 · 去提示词库抄一条直接用 · 去AI实验室亲手验证