verl-mint¶
verl-mint 是 Mint Recursive 训练运行时的开源版本,基于 veRL 和 Ray 构建。它保留了 Mint Recursive API 中 session、checkpoint、sampler 和 future 的含义与用法。客户端沿用原来的训练流程,计算和存储交给你自己的 GPU、Ray 或 veRL 集群与存储系统。
在 Mint Recursive 托管服务上运行的同一个 SDK 脚本,可以不加修改地在本地 verl-mint 部署上运行。
算法¶
| 算法 | 状态 | 说明 |
|---|---|---|
| SFT | 可用 | LoRA SFT、checkpoint 保存/加载、断点续训、采样器交接 |
| GRPO | 可用 | Group Relative Policy Optimization;组相对优势,无需价值 critic |
| DPO | 计划中 | 偏好优化方向 |
支持模型¶
| 系列 | 规模 | 状态 |
|---|---|---|
| Qwen | 0.6B | 可用 |
| Qwen | 4B | 可用 |
| Qwen | 30B | 可用 |
| Qwen | 8B | 计划中 |
安装¶
smoke 扩展会从 MindLab 仓库安装官方 Mint Recursive SDK(mindlab-toolkit)。
前置条件¶
使用 verl-mint 前,需要先准备好 Ray、GPU 和 worker 镜像。这些执行环境由你配置,运行时不会代为创建。
| 前置条件 | 要求 |
|---|---|
| Ray | API 节点与每个 worker 上需 ray[default]>=2.46.0,<3 |
安装步骤、算法说明和集群配置详见 verl-mint 仓库。