Token(词元)

基础概念

Token 是大语言模型处理文本的最小单位,模型按 Token 计数与计费,一个汉字约占 1 个 Token,4 个英文字符约占 1 个 Token。

#模型为什么用 Token 而不是字

大模型无法直接理解文字,需要先通过分词器(Tokenizer)把文本切成 Token,再查表把每个 Token 映射为一个高维向量。切分规则由训练语料的统计频率决定:高频英文单词通常一个词就是一个 Token,低频词会被拆成多个片段,中文则大多一字一 Token。

#Token 与成本、速度的关系

API 按输入和输出的 Token 数分别计费,且输入通常是输出价格的 1/3 到 1/5。长对话的历史消息会作为输入反复计费,这是成本失控的最常见原因。生成速度也以 Token 每秒(Token/s)衡量,本地推理的体验好坏主要看这个指标。

#实用估算规则

  • 中文:约 1 字 = 1 Token,1 万字文章约 1 万 Token
  • 英文:约 4 字符 = 1 Token,750 词约 1000 Token
  • 精确数字以 API 响应中的 usage 字段为准,估算偏差一般在 ±15% 内

本页目录

  • #模型为什么用 Token 而不是字
  • #Token 与成本、速度的关系
  • #实用估算规则

更新于 2026-10-02

#关于「Token(词元)」的常见问题

Token 是大语言模型处理文本的最小单位,模型按 Token 计数与计费,一个汉字约占 1 个 Token,4 个英文字符约占 1 个 Token。

本词条属于基础概念分类,与 、、 等概念紧密相关。如果你刚开始接触本地大模型部署,建议按「基础概念 → 模型与量化 → 推理与部署」的顺序阅读相关词条,配合 GPU 检测工具 边学边验证自己硬件的可行方案。

相关工具推荐

暂无相关工具推荐

您可以浏览更多分类发现其他实用工具