TTFT 与 TPSTTFT & TPS
AI 概念TTFT 与 TPS 是分别衡量模型首段响应等待时间和后续生成速度的指标TTFT 从发送到收到第一个 Token，TPS 表示之后每秒生成的 Token 数。例如，TTFT 短不代表整段回答很快，输出长度也会影响总时长。
也常被叫作首 Token 延迟每秒 Token 数生成速度
开始前
体验过聊天回答先等待、后逐段出现。
看完后
能看懂一条时间线里的 TTFT、TPS 和总时长各在说明什么。
同一条生成时间线，三种等待感从哪里来
发送请求出现第一个字回答完成
总时长 6.2sB 更早开始说话，但后面生成得慢，所以完整回答反而更晚结束。
刚才发生了什么
- 1先等 TTFT
TTFT 是从点击发送到收到第一个 Token（文字片段）的时间。
- 2再看 TPS
TPS 是第一个片段之后每秒生成多少 Token；这里不是每秒交易数。
- 3最后看总时长
回答越长，即使开头很快，也可能需要更久才完整结束。
TTFT 很短不代表完整回答很快；长回答还受生成速度和长度影响。
接下来学什么