source: 小红书 url: https://www.xiaohongshu.com/discovery/item/69e86215000000001b00069b?app_platform=ios&app_version=9.25&share_from_user_hidden=true&xsec_source=app_share&type=normal&xsec_token=CBd34yURoTZFilE4Eh5Py11QeYKZdxccJGnFpGRI_ccNk=&author_share=1&xhsshare=WeixinSession&shareRedId=ODY7Nzs8ND02NzUyOTgwNjY0OTc5Sz85&apptime=1777910022&share_id=4edeb7e360514ee383174ed48bbf4723 saved: 2026-05-04 23:54:06

id: 82c05619-99e1-4aa3-b840-12a719050651

作者: 这是什么

发布/编辑时间: 2026年04月22日 05:55

LoRA、Prompt Tuning、Prefix Tuning，一次看懂它们到底有什么区别👇
如果你刚开始接触大模型微调，最容易混乱的问题其实就三个：

LoRA 是改哪里？ Prompt Tuning 到底是不是“写提示词”？ Prefix Tuning 又和 Prompt Tuning 差在哪？
我自己的理解是：

LoRA：不直接改整个大模型，而是给权重更新加一个低秩分支，核心是“少量参数，完成有效适配”，现在也是最常见、最实用的一类 PEFT 方法。

Prompt Tuning：冻结模型，只学习一小段可训练的 soft prompt，本质上不是手写自然语言提示词，而是学习连续向量，优点是特别轻量。

Prefix Tuning：和 Prompt Tuning 很像，但它不是只加在输入前面，而是把可学习的 prefix 注入到各层注意力里，所以表达能力通常会更强一些，但实现也更复杂一点。

这次把它们都画成了统一风格的手绘图，希望能更适合入门理解，也更适合收藏复习📚 如果你最近也在学 PEFT / 大模型微调，希望这组图能帮你快速建立整体框架～
#PEFT #LoRA #PromptTuning #PrefixTuning #大模型 #大模型微调 #参数高效微调 #Transformer #人工智能 #深度学习