SamplingPrefillBillingEvent
class mint.types.SamplingPrefillBillingEvent ( StrictBase )¶
采样时处理的 prompt(prefill)token。
字段:
- type ( Literal['sampling_prefill'] )
- cached ( bool ) – 为 true 表示 token 来自 prefill 缓存(按折扣缓存费率计费);为 false 表示按全价 prefill 计费
- token_count ( int ) – 该桶的 prefill token 数