2 篇文档带有标签「next token prediction」

大语言模型预训练的目标、数据、训练方式和与后训练的区别。

从 token、logits、概率分布和 next token prediction 理解大语言模型的基本工作方式。