跳转至

TopKPromptLogprobs

class mint.types.TopkPromptLogprobs ()

prompt 每个位置上最可能的 top-k token,以稠密 numpy 矩阵表示。

两个矩阵的形状均为 (prompt_length, k),其中 k 是请求的 top token 数。空位以哨兵值填充( token_id=0 、 logprob=-99999.0 )。

字段:

  • token_ids ( np.ndarray ) – int32 token ID 矩阵,形状 (prompt_length, k)。
  • logprobs ( np.ndarray ) – float32 对数概率矩阵,形状 (prompt_length, k)。

被引用

  • mint.types.SampleResponse