source: 小红书 url: https://www.xiaohongshu.com/discovery/item/6a02d4f8000000003701d3b0?app_platform=ios&app_version=9.25&share_from_user_hidden=true&xsec_source=app_share&type=normal&xsec_token=CBasCdwy3W2w0r_8_X_CTEwX74GKVkOqSaknIevcKzEws=&author_share=1&xhsshare=WeixinSession&shareRedId=ODY7Nzs8ND02NzUyOTgwNjY0OTc5Sz85&apptime=1778587052&share_id=3ca580d5feba49659cd802ce4db7f197 saved: 2026-05-12 19:58:04

id: 2783f6f9-016a-4d16-ace9-70e64e03c84e

作者: AI大模型-老闫编程

发布/编辑时间: 2026年05月12日 07:21

🌈 常见微调方法：
1.LoRA
2.Adapter-Tuning
3.Prefix-Tuning
4.P-Tuning
5.Prompt-Tuning

✅ LoRA
简单说就是在预训练模型层之间加两个小矩阵，只训练这些低秩矩阵，不碰原模型参数。省显存、省时间，效果还接近全量微调，是目前最常用的方法。

✅ Adapter
在模型层里塞几个小模块，像插头一样插进去，单独训练这些模块，原始参数不动。适合那种模型很大、不想折腾太多参数的场景。

✅ Prefix-Tuning
在输入前面加一串可学习的“前缀”向量，引导注意力机制往有用的方向走。不同任务用不同前缀，不用改模型结构，灵活性很高。

✅ P-Tuning
把连续提示（continuous prompts）当成可训练参数，用LSTM或MLP处理成模型能懂的嵌入。只练这些提示向量，不碰原模型，适应不同任务很灵活。

✅ Prompt-Tuning
直接把任务提示当成模型输入的一部分来训练，本质上是给模型一个“话头”，让它按提示输出。最简单轻量，适合大模型的快速适配。
这些方法核心思路都一样：锁住预训练模型大部分参数，只动一点点额外参数，就能低成本让模型学到新任务。不用每次全量微调，省卡省时间。
#大模型 #AI大模型 #大模型应用 #AI应用开发 #程序员 #AI大模型开发 #AI大模型应用 #大模型微调 #AI人工智能

内容效果不满意？点此反馈

积分余额不足，小红书图片文字识别（OCR）已跳过

📘 查看积分说明

💰 积分充值：https://pay.bijitongbu.site/kuaikan.html

⚠️ 充值仅限在 手机 中打开，电脑端无法支付

请用手机微信扫码完成充值