PEFT 大模型高效微调库

只训练少量额外参数,用较少显存对大模型做 LoRA 等微调

需要技术AI 整理,待开发者认领训练与微调
评分人数不足呦探分评分人数不足大众分评分方法
这个页面由 AI 根据官网公开信息整理,可能有错。产品团队可以认领后修改。 认领这个产品

这个项目只有源代码,需要会编程才能用。

星标
2.2万
复刻
2637
主要语言
Python
许可证
Apache-2.0
最近更新
复制安装指令(给 AI 编程工具)

粘贴到 Codex、Claude Code、Cursor、Trae 等 AI 编程工具里,回车就会开始安装。第一次复制前请先阅读风险提示。

这些文件由项目作者放在 GitHub 上,本站不开发、不托管这些软件,也不检测其代码;国内访问 GitHub 可能较慢。使用前请阅读 第三方软件风险提示和项目的许可证。 数据更新于 2026/11/01 报告问题

介绍

PEFT 是 Hugging Face 维护的参数高效微调库。它冻结预训练模型的大部分参数,只训练少量新增参数,从而明显降低微调所需的显存和存储,保存下来的适配器文件通常只有几十 MB。

能做什么

  • 用 LoRA、IA3、软提示等方法微调大语言模型和扩散模型
  • 与量化结合(如 QLoRA),在消费级显卡上微调数十亿参数的模型
  • 与 Transformers、Diffusers、Accelerate、TRL 配合,用于分布式训练和 DPO 等对齐训练

运行需要:Python 与 PyTorch,通过 pip 安装;训练通常需要 NVIDIA GPU,显存需求取决于模型大小(例如 7B 模型配合 QLoRA 可在 16GB 显卡上训练)。

这段介绍由 AI 根据项目的公开说明整理,可能有疏漏,以项目主页为准。

评测

0 条评测

还没有评测。用过的话,来写第一条吧。

写评测