SamplingParams

class mint.types.SamplingParams ( BaseModel )

字段：

• max_tokens ( Optional[int] ) – 生成的最大 token 数
• seed ( Optional[int] ) – 用于可复现生成的随机种子
• stop ( Union[str, Sequence[str], Sequence[int], None] ) – 生成的停止序列
• temperature ( float ) – 采样温度
• top_k ( int ) – top-k 采样参数（-1 表示不限）
• top_p ( float ) – 核采样概率

被引用

• SamplingClient.sample