跳到主要内容

2 篇文档带有标签「Token」

查看所有标签

Token 与概率

从 token、logits、概率分布和下一个 token 预测理解大语言模型的基本工作方式。

Tokenizer

大模型工程化中 Tokenizer 的作用、文件组成、常见算法和部署排障。