跳到主要内容

2 篇文档带有标签「sampling」

查看所有标签

推理参数

大模型推理中常见生成参数的含义、影响和工程配置建议。

生成与解码

大语言模型从概率分布生成文本时常见的解码策略和参数影响。