Token
你可能会说
都说按 token 收费,token 到底是个啥?跟我打几个字什么关系?
Token 是 AI 读取和生成文字、标点或代码时使用的计数单位。同一句话在不同 AI 中可能被分成不同数量的小片段。输入和输出的片段数会影响一次能放多少内容、等待时间和费用;一个汉字不一定正好算一个 Token。
也常被叫作词元文本令牌
延伸阅读 · 权威出处
都说按 token 收费,token 到底是个啥?跟我打几个字什么关系?
usage = input + output这是切片关系示意,不代表任何具体模型的精确 Token 结果。
先切片:“帮我改 login 按钮”会按模型自己的规则切成若干文字、符号或代码片段。
再读再写:模型读取输入片段,并一个片段接一个片段地生成回答。
两边都计数:你送进去的内容和模型写出来的内容都会被计入用量。
请按当前模型统计这次请求的输入、输出和缓存 Token,输入要包含系统规则、对话历史、文件与工具结果。不要用字符数直接换算;同时告诉我上下文占用和费用估算依据。