2 篇文档带有标签「sampling」

大语言模型从 logits 和概率分布生成文本时的基本流程、解码策略和参数影响。

大模型推理中常见生成参数的含义、影响和工程配置建议。