Press⌘+Kto search
Token(词元)
基础概念Token 是大语言模型处理文本的最小单位,模型按 Token 计数与计费,一个汉字约占 1 个 Token,4 个英文字符约占 1 个 Token。
#模型为什么用 Token 而不是字
大模型无法直接理解文字,需要先通过分词器(Tokenizer)把文本切成 Token,再查表把每个 Token 映射为一个高维向量。切分规则由训练语料的统计频率决定:高频英文单词通常一个词就是一个 Token,低频词会被拆成多个片段,中文则大多一字一 Token。
#Token 与成本、速度的关系
API 按输入和输出的 Token 数分别计费,且输入通常是输出价格的 1/3 到 1/5。长对话的历史消息会作为输入反复计费,这是成本失控的最常见原因。生成速度也以 Token 每秒(Token/s)衡量,本地推理的体验好坏主要看这个指标。
#实用估算规则
- 中文:约 1 字 = 1 Token,1 万字文章约 1 万 Token
- 英文:约 4 字符 = 1 Token,750 词约 1000 Token
- 精确数字以 API 响应中的 usage 字段为准,估算偏差一般在 ±15% 内
本页目录
- #模型为什么用 Token 而不是字
- #Token 与成本、速度的关系
- #实用估算规则
更新于 2026-10-02
#关于「Token(词元)」的常见问题
Token 是大语言模型处理文本的最小单位,模型按 Token 计数与计费,一个汉字约占 1 个 Token,4 个英文字符约占 1 个 Token。
本词条属于基础概念分类,与 、、 等概念紧密相关。如果你刚开始接触本地大模型部署,建议按「基础概念 → 模型与量化 → 推理与部署」的顺序阅读相关词条,配合 GPU 检测工具 边学边验证自己硬件的可行方案。