TopKPromptLogprobs
class mint.types.TopkPromptLogprobs ()¶
prompt 每个位置上最可能的 top-k token,以稠密 numpy 矩阵表示。
两个矩阵的形状均为 (prompt_length, k),其中 k 是请求的 top token 数。空位以哨兵值填充( token_id=0 、 logprob=-99999.0 )。
字段:
- token_ids ( np.ndarray ) – int32 token ID 矩阵,形状
(prompt_length, k)。 - logprobs ( np.ndarray ) – float32 对数概率矩阵,形状
(prompt_length, k)。
被引用¶
- mint.types.SampleResponse