Token（词元）

Token 是语言模型实际处理的单位。文本在被模型看到之前会先被切分成 token - 通常是子词片段。一个粗略的经验法则：一个 token 约相当于四个英文字符，或四分之三个英文单词。

Token 之所以重要，有两个实际原因：模型一次能处理的 token 数量有上限（即上下文窗口），而且大多数 API 都按 token 计费。