AI 应用基础AI Application Basics
生成式 AI 基础 · LLM 应用基础
AI 应用由界面、上下文、模型和工具共同完成任务
AI VibeCoding 术语
AI 入门1 个条目
总览
输入与上下文4 个条目
Token
词元 · 文本令牌
Token 是语言模型读取和生成文本时使用的文字、标点或代码片段单位
上下文窗口Context Window
上下文长度 · Context Length
上下文窗口是模型一次请求中能够同时读取并为输出预留的 Token 总量
系统提示词System Prompt
系统指令 · System Instructions
系统提示词是产品随本次请求交给模型的行为和回答规则
对话历史Conversation History
聊天记录 · 消息历史
对话历史是产品保存并在后续请求中重新提供给模型的先前消息记录
请求与输出3 个条目
无状态请求Stateless Request
无状态 API
无状态请求是每次调用都要明确提供本轮所需背景的请求方式
结构化输出Structured Output
响应格式
结构化输出是要求模型按预先规定的字段和数据类型返回结果的方式
流式响应Streaming Response
Streaming · 流式输出
流式响应是服务器把生成结果分成连续片段发送、界面逐段显示的传输方式
Agent 与工具3 个条目
工具调用Tool Calling
Function Calling · 函数调用
工具调用是模型请求产品执行指定工具并提供参数的输出方式
ReAct 机制ReAct
Reason + Act · 推理行动模式
ReAct 让模型根据真实观察更新任务级判断，再选择下一步行动
Agent 循环Agent Loop
Agentic Loop · 智能体循环
Agent 循环是运行时把模型调用、工具结果和停止条件串成多轮任务的控制流程
速度与成本3 个条目
TTFT 与 TPSTTFT & TPS
首 Token 延迟 · 每秒 Token 数
TTFT 与 TPS 是分别衡量模型首段响应等待时间和后续生成速度的指标
Token 用量与成本Token Usage & Cost
Token 费用 · 模型调用成本
Token 用量会逐轮累加，实际成本还要按所用模型的价格表计算
速率限制Rate Limit
限流 · 请求频率限制
速率限制是服务对一定时间内请求数、Token 数或并发任务数设置的上限