Gemini 3.6 Flash 发布后,API 路由该怎么改:按任务管理质量、延迟和成本
Gemini 3.6 Flash 和 Gemini 3.5 Flash-Lite 在 2026 年 7 月 21 日发布后,模型选择不再只是“换一个更强的模型”。
正文
Google 在 2026 年 7 月 21 日发布了 Gemini 3.6 Flash、Gemini 3.5 Flash-Lite 和 Gemini 3.5 Flash Cyber。表面上看,这是一次模型更新;对接入 Gemini API、GitHub Copilot 或 AI 编程代理的团队来说,它更像一次路由策略更新。
原因很简单:新模型之间的差异不只在能力,还在于价格、输出长度、工具调用方式、可用范围和延迟目标。把所有请求直接迁移到 gemini-3.6-flash,或者只按每百万 token 的单价选择模型,都可能让账单和稳定性判断失真。
这次发布值得关注的不是“哪个模型绝对最好”,而是一个更实际的问题:
哪些请求值得使用 Gemini 3.6 Flash,哪些请求应该交给 Flash-Lite,哪些请求需要继续走其他供应商或更高质量模型?
先看清楚:这不是一个模型的三个别名
根据 Google 的 API 文档和价格页,当前可以先把这组模型理解成不同的工作负载层级:
| 模型 | 更适合的任务 | 官方列示的标准价格(每百万 token) | 路由提示 |
|---|---|---|---|
gemini-3.6-flash |
复杂编码、多步 Agent 循环、函数调用、需要更强规划的任务 | 输入 $1.50,输出 $7.50 | 作为 Agent 和复杂代码任务的主力候选 |
gemini-3.5-flash-lite |
高吞吐分类、抽取、翻译、简单数据处理、轻量子任务 | 输入 $0.30,输出 $2.50 | 作为低延迟、低成本的批量处理层 |
gemini-3.5-flash-cyber |
网络安全相关任务 | 官方发布说明称先面向政府和受信任合作伙伴 | 不应当作为默认公共路由,需要单独确认可用性和授权范围 |
这些价格不是完整账单。Google 的价格页还区分了 Standard、Batch、Flex、Priority 等消费选项,并把 thinking tokens 计入输出价格。启用缓存、搜索或地图 grounding 时,也会出现额外的计量项。
因此,模型路由表至少需要保存下面这些字段:
- 稳定模型 ID 和版本状态;
- 输入、输出、缓存和工具调用的计费规则;
- 是否支持函数调用、代码执行、文件搜索或计算机使用;
- 延迟和吞吐目标;
- 可用的区域、账号层级和供应商;
- 失败后的备用模型和重试上限。
如果这些信息只散落在应用代码、环境变量和不同团队的 SDK 配置里,模型一更新,实际成本和可用性就很难追踪。
Gemini 3.6 Flash 的优势,应该当成待验证假设
Google 对 Gemini 3.6 Flash 的定位是更适合代码生成、Agent 执行和空间推理的高速度模型。发布说明还提到,在其引用的 Artificial Analysis 指标中,3.6 Flash 比 3.5 Flash 少消耗 17% 的输出 token,并且在多步工作流中减少推理步骤和工具调用。
这类信息足以支持灰度测试,但不等于每个团队都会得到相同结果。至少有三点需要自己测量:
- 任务成功率是否提高。 少输出不代表任务更快完成。如果模型少说了,但需要更多人工修正或重试,真实成本可能反而上升。
- 工具调用是否减少。 Agent 的费用不仅来自模型 token,还来自搜索、代码执行、外部 API 和失败重试。工具调用次数应当单独记录。
- 长上下文是否真的有收益。 Gemini 3.6 Flash 的模型页列出 1,048,576 的输入 token 上限,但上限不是建议值。把整份仓库、历史对话或日志都塞进请求,仍然可能拖高延迟和输入费用。
更稳妥的做法是把 Google 的结论当成一个待验证假设:先选取真实任务样本,再比较完成率、人工返工、输入 token、输出 token、工具调用、P95 延迟和重试率。
先按任务路由,再按模型路由
一个能长期维护的路由策略,不应该只有“默认模型”这一项。可以先把请求分成四类。
1. 高频、低风险、结果结构固定
例如文本分类、字段抽取、语言识别、短摘要和批量翻译。这些任务通常更看重单位成本、吞吐和稳定的结构化输出。
这类请求适合优先使用 gemini-3.5-flash-lite。如果结果不符合 JSON Schema,网关可以设置一次低成本修复请求;如果仍然失败,再转入质量更高的模型,而不是从第一轮就把所有流量交给 3.6 Flash。
2. 需要多步推理或工具调用的 Agent
例如代码修改、测试执行、仓库检索、文档分析和需要多轮函数调用的任务。这里更重要的是一次任务能否完成,而不是单轮响应的 token 单价。
gemini-3.6-flash 可以作为这类请求的主力候选,但要为任务设置总预算和最大循环次数。路由层应当知道当前 Agent 已经调用了几次工具、累计花费多少、是否已经连续失败,而不是只看当前这一轮的模型响应。
3. 高风险或需要更强质量保证的任务
涉及生产代码发布、财务数据、权限变更或对外正式内容时,不要因为新模型价格更低就自动降级。可以把 Gemini 3.6 Flash 当作候选模型之一,同时保留另一家供应商或更高质量模型作为复核路径。
这里的关键不是“永远使用最贵模型”,而是让高风险任务拥有可解释的升级条件,例如:
- 结构化校验失败;
- 单元测试失败;
- 工具调用返回互相矛盾的结果;
- 输出涉及敏感操作;
- 低成本模型连续两次没有完成任务。
4. 网络安全专用工作流
Gemini 3.5 Flash Cyber 的定位和可用范围都比较特殊。对于安全扫描、漏洞分析和修复建议,应先确认账号、地区、合规和访问条件,再把它接入隔离的安全工作流。不能把“安全专用模型”当成普通模型别名,直接放进面向所有业务的 fallback 列表。
用“每个任务的预期成本”替代单价比较
单看输入和输出价格,很容易做出错误结论。更接近实际的估算方式是:
任务预期成本 =
输入 token 成本
+ 输出 token 成本
+ thinking token 成本
+ 工具调用成本
+ 重试成本
+ 失败后升级到其他模型的成本
在网关里,可以为每个请求记录以下维度:
request_id
team_id
application
task_type
model
provider
input_tokens
output_tokens
tool_calls
retry_count
latency_ms
validation_result
estimated_cost
其中 task_type 比单纯的模型名称更重要。没有任务标签,团队只能得到“Gemini 花了多少钱”;有了任务标签,才可以回答“代码 Agent 的平均完成成本是否下降”“批量抽取是否应该切到 Flash-Lite”“哪一种请求最常触发升级和重试”。
一个可执行的路由策略示意
下面的配置只是策略示意,备用模型名称需要替换成团队实际接入的供应商和模型:
routes:
- name: high-volume-structured
match:
task_type:
- classification
- extraction
- translation
risk: low
primary: gemini-3.5-flash-lite
max_output_tokens: 2048
max_retries: 1
escalate_when:
- schema_validation_failed
- name: coding-agent
match:
task_type:
- code_edit
- repository_search
- test_and_fix
agentic: true
primary: gemini-3.6-flash
max_tool_calls: 12
max_task_cost_usd: 0.50
fallback: <another-provider-coding-model>
escalate_when:
- tests_failed_twice
- tool_result_conflict
- budget_exceeded
- name: sensitive-workload
match:
data_classification:
- confidential
- regulated
primary: <approved-model-for-this-data-class>
require_audit_log: true
这个策略有三个实际好处:
- 模型升级不会直接改变所有业务流量;
- 成本上限和 Agent 循环上限在网关层统一执行;
- 更换供应商时,业务代码只保留任务语义,不需要到处改 SDK。
使用 GitHub Copilot 的团队还要检查可用性
GitHub 在 2026 年 7 月 21 日宣布 Gemini 3.6 Flash 将逐步进入 Copilot Pro、Pro+、Max、Business 和 Enterprise,并可在 VS Code、Visual Studio、Copilot CLI、云端 Agent、Copilot 应用、JetBrains、Xcode 和 Eclipse 的模型选择器中使用。
这说明模型路由不只发生在自建 API Gateway。团队使用托管式编程代理时,也需要关注:
- 模型是否已经在自己的套餐和组织策略中开放;
- rollout 是否完成,开发者看到的模型列表是否一致;
- 模型选择是否影响用量额度或计费;
- 模型退役时是否有明确替代项;
- 本地 IDE、CLI 和云端 Agent 是否采用相同的模型策略。
如果一个团队同时使用 Gemini API、GitHub Copilot、Claude Code 和内部 Agent,最好把模型目录、成本标签和任务分类统一起来。否则,同一个“修复测试失败”任务,在不同工具里会变成不同的模型名、不同的账单维度和不同的失败处理方式。
迁移清单:不要把模型替换当成完整上线
切换到 Gemini 3.6 Flash 或 Flash-Lite 前,可以按下面顺序检查:
- 使用稳定模型 ID
gemini-3.6-flash和gemini-3.5-flash-lite,不要把 preview 别名写进生产默认配置。 - 重新建立输入、输出、thinking、缓存和 grounding 的费用基线。
- 用真实的代码 Agent、结构化抽取和批处理样本做离线回放。
- 单独测试函数调用、代码执行、文件搜索和计算机使用,不要只比较文本回答。
- 为每种任务设置最大输出 token、最大工具调用次数、最大重试次数和单任务预算。
- 在网关日志里记录
task_type、model、provider、validation_result和estimated_cost。 - 先按任务类型灰度,再扩大到团队或全量流量。
- 准备跨供应商 fallback,并验证 fallback 不会绕过数据、区域和预算策略。
结语:模型越多,默认模型越不重要
Gemini 3.6 Flash 的发布把一个趋势说得更清楚:模型市场正在同时向更强和更便宜的两个方向扩展。一个模型负责复杂 Agent 循环,另一个模型负责高吞吐子任务,专用模型再处理特定风险领域,这种组合会比“所有请求都走同一个默认模型”更接近生产现实。
对开发团队来说,下一步不是盲目迁移,而是把模型选择从业务代码中抽出来,建立一层能够理解任务、预算、工具调用和失败状态的 API 路由。这样,模型更新才会变成可测量的策略调整,而不是一次不可逆的全量替换。
参考来源
- Google:Introducing Gemini 3.6 Flash, 3.5 Flash-Lite, and 3.5 Flash Cyber
- Google AI for Developers:Gemini 3.6 Flash 模型文档
- Google AI for Developers:Gemini Developer API pricing
- Google AI for Developers:Release notes
- GitHub Changelog:Gemini 3.6 Flash is now available in GitHub Copilot
相关阅读
- AI API 平台目录:按模型和预算横向比较各站价格与支持情况
- Bluesminds 详情:注册入口、模型覆盖和使用限制