返回工作流
模型微调

本地模型微调

从数据准备、LoRA 微调、GGUF 导出到本地服务压测,跑通一个可复现的本地模型微调闭环。

4 个步骤 失败可回滚 客户端执行
流程

从输入到成片

01
训练数据与显存预算步骤 1

使用 Unsloth:本地微调与运行 LLM / 扩散模型,支持 GGUF、MLX 和低显存训练。

查看工具详情 →
02
LoRA/QLoRA 微调步骤 2

使用 Soup:用一份 YAML 在消费级显卡上微调 LLM。

查看工具详情 →
03
GGUF 导出与本地推理步骤 3

使用 Ollama 本地大模型:一条命令跑本地大模型,数据不出门。

查看工具详情 →
04
本地服务与并发压测步骤 4

使用 LocalAI:本地 AI 引擎,统一运行 LLM、视觉、语音、图像和视频模型。

查看工具详情 →