注册并分享邀请链接,可获得视频播放与邀请奖励。

Bill The Investor (@billtheinvestor) “微调 LLM 的 6 个开源库 1. Unsloth GitHub: https://t.co/tny78dkUfG … → 本地微调 L” — TopicDigg

Bill The Investor 的个人资料封面
Bill The Investor 的头像
Bill The Investor
@billtheinvestor
纯瞎扯关于 #Crypto# #AI# 的各种无用知识;刻剑派、躺平派及吃瓜派三派掌门; 没有任何付费群; #bitcoin#
加入 April 2011
3.6K 正在关注    117.8K 粉丝
微调 LLM 的 6 个开源库 1. Unsloth GitHub: … → 本地微调 LLM 最快的方式 → 针对低显存进行了优化(甚至支持笔记本电脑) → 与 Hugging Face 模型即插即用 2. Axolotl GitHub: … → 灵活的 LLM 微调配置 → 支持 LoRA, QLoRA, 多 GPU → 非常适合自定义训练流水线 3. TRL (Transformer Reinforcement Learning) GitHub: … → 用于 LLM 对齐的 RLHF, DPO, PPO → 基于 Hugging Face 生态构建 → 后训练优化的必备工具 4. DeepSpeed GitHub: … → 高效训练大规模模型 → 显存 + 速度优化 → 扩展训练规模的行业标准 5. LLaMA-Factory GitHub: … → 一站式微调 UI + CLI → 支持多种模型 (LLaMA, Qwen 等) → 对初学者友好且功能强大 6. PEFT GitHub: … → 以极低的计算量进行微调 → 支持 LoRA, adapters, prefix tuning → 成本效益最高的训练方案 收藏本文以备后用。
显示更多