跳转至

verl-mint

verl-mint 是 Mint Recursive 训练运行时的开源版本,基于 veRL 和 Ray 构建。它保留了 Mint Recursive API 中 session、checkpoint、sampler 和 future 的含义与用法。客户端沿用原来的训练流程,计算和存储交给你自己的 GPU、Ray 或 veRL 集群与存储系统。

在 Mint Recursive 托管服务上运行的同一个 SDK 脚本,可以不加修改地在本地 verl-mint 部署上运行。

算法

算法 状态 说明
SFT 可用 LoRA SFT、checkpoint 保存/加载、断点续训、采样器交接
GRPO 可用 Group Relative Policy Optimization;组相对优势,无需价值 critic
DPO 计划中 偏好优化方向

支持模型

系列 规模 状态
Qwen 0.6B 可用
Qwen 4B 可用
Qwen 30B 可用
Qwen 8B 计划中

安装

git clone https://github.com/verl-project/verl-mint.git
cd verl-mint
uv sync --extra smoke

smoke 扩展会从 MindLab 仓库安装官方 Mint Recursive SDK(mindlab-toolkit)。

前置条件

使用 verl-mint 前,需要先准备好 Ray、GPU 和 worker 镜像。这些执行环境由你配置,运行时不会代为创建。

前置条件 要求
Ray API 节点与每个 worker 上需 ray[default]>=2.46.0,<3

安装步骤、算法说明和集群配置详见 verl-mint 仓库。