谷歌 Gemini Decision 1 发布:单次 API 调用可并行回答最多 1000 个决策问题
Google DeepMind 推出 Gemini Decisions API,新模型 Gemini Decision 1 支持单次调用处理文本、图像、音频、视频及 PDF 等多模态输入,并对同一材料并发回答最多 1000 个结构化决策问题,按输入 token 计费,输出免费。

Google DeepMind 发布了 Gemini Decisions API 周三面向需要软件快速做出一系列小型判断的开发者。例如,一个理赔受理系统可在一次请求中发送扫描表单、损坏照片以及客户来电记录;可询问该理赔应分配至哪个队列、证据是否缺失、以及应由人员以何种紧急程度进行审核。该 API 返回答案及置信度分数,应用程序可据此推进案件处理流程。
谷歌的新模型, Gemini Decision 1,可在单次推理中就同一材料回答多达 1,000 个问题。谷歌 按每百万输入 token 收费 0.10 美元,输出免费。此举使谷歌进入一个已有厂商布局的市场: TypeSafe 的 Jev 已提供低成本分类服务, OpenAI 的 Decisions API 运行于 GPT-6 Luna,而 亚马逊的 Strands Decider 则允许开发者选择在自有基础设施上运行该模型。
Gemini 的企业级应用价值始于请求内容本身。处理录音、影像和 PDF 文件的团队可将这些文件一并评估;处理短文本工单的团队则有更廉价的托管选项,且 人工智能分析决策指数(Artificial Analysis Decision Index) 显示 Jev 与 Gemini 在整体质量上表现接近。
一次请求即可覆盖整张检查清单。
《 Decisions API 指南 》描述了三类问题:是非判断题返回某一条件成立的概率;
多选题从 2 至 255 个命名选项中择一,并报告每个选项的概率;量规式问题(rubric question)则返回开发者所定义量表上的加权得分及各档位概率。
应用程序可利用这些概率将模糊案例转交人工处理,或调用另一模型进行二次判断。
该模型在对输入的一次遍历中即完成所有可选项的评分。
它可同时读取文本、图像、音频、视频和 PDF 文件;开发者可调整图像与视频分辨率,以控制模型所见细节程度及媒体所消耗的 token 数量。262,144 个 token 的上限涵盖共享证据,以及所有问题的指令与选项。
每个问题均被独立评估。若第二个决策依赖于第一个,则应用程序可通过代码处理该依赖关系,或发起后续调用。诸如撰写解释性文字或从文件中提取任意发票编号等任务,仍需单独的生成或抽取步骤。
谷歌表示, Gemini Notebook 利用该模型将查询路由至不同模型及不同推理强度层级。该公司报告称,在该工作流中,常规查询延迟最多降低 40%,其中路由步骤可将耗时更长的模型保留用于更困难的请求。 谷歌的定价页面
对每次请求仅计算一次共享输入,并对每个问题所增加的 token 单独计费。例如一份 4,000 个 token 的记录,外加 20 项检查,每项检查增加 50 个 token。 按谷歌费率,一次 5,000 个 token 的请求,每千份记录成本约为 0.50 美元。若改为 20 次独立调用,每次均重发该记录,则每千份记录成本为 8.10 美元(尚未计入任何重试或后续调用)。该示例假设所述 token 数量即为计费总数。当同一输入在另一次独立请求中被复用时,谷歌将再次对其全部输入收费。
开发者可从 Gemini 开发者 API 的
开发者可以从 Gemini 开发者 API 开始 v1beta 端点及 Google AI Studio中的零成本配额层开始使用。谷歌 列出了免费配额限制: 每分钟最多 200 次请求及 50,000 个输入 token。 OpenRouter 和 Vercel AI Gateway 同样列出了该模型。Vercel 建议使用音频、视频或 PDF 的开发者采用其 AI SDK 7 集成。谷歌表示,Gemini 在 Google Cloud 中的支持即将推出。
对于使用客户记录进行测试的团队,《 Gemini API 条款 》区分了付费与非付费访问权限。谷歌表示,付费服务的提示词(prompts)与响应(responses)不用于产品改进,并仅在有限时间内保留日志以执行政策及履行法定披露义务;其非付费服务条款允许将数据用于产品改进,但存在地区性例外。
谷歌的基准测试领先优势取决于具体任务。
在 谷歌发布时的基准测试中,Gemini Decision 1 在四款模型共同参与的七项测试中领先五项。其在 JevBench 上得分为 92.2%,高于 GPT-6 Luna 的 90.9% 和 Jev 1.14 的 90.0%。
Jev 在浏览器任务基准测试 Mind2Web 多模态(Mind2Web Multimodal)上表现下降,从 86.8% 降至 86.2%;在测试工具使用决策能力的 When2Call 基准上,也从 82.0% 降至 79.9%。
在两项媒体测试中,谷歌将 Decision 1 与 Gemini 3.5 Flash-Lite 进行了对比:Decision 1 在音频基准测试 MMAU 上得分为 71.8%,Flash-Lite 为 67.7%;在 Video-MME 上,Decision 1 得分为 69.1%,Flash-Lite 为 63.3%。
在谷歌的对比中,Decision 1 的校准误差最低,为 0.0250,约为 Jev 的 0.0494 的一半。校准(calibration)衡量的是模型置信度与其实际正确率之间的一致程度。
当置信度阈值决定有多少案例需交由人工审核员处理时,该指标至关重要。谷歌还报告称,其共享测试在 Decision 1 上的成本为 0.88 美元,在 Jev 上为 0.68 美元,在 Gemini 3.5 Flash-Lite 上通过 Interactions API 为 4.14 美元。Flash-Lite 在该工作负载下的成本约为 Decision 1 的 4.7 倍。
谷歌的 报告端到端延迟为 150–250 毫秒 支持最高达 16K token 的输入,且当请求问题数量从 1 个增至 100 个时,延迟变化极小。谷歌指出,在上述条件下,模型计算中位延迟为 50–100 毫秒。计划使用完整上下文窗口或 1,000 个问题上限的团队,应自行测量其文件和检查清单的处理耗时,包括上传媒体所花费的时间。
独立 Artificial Analysis Decision Index v2.1 在发布时将 Gemini 排名第 9(共 18 款模型)。该指数综合六项评估结果,涵盖文档审阅、工具调用、知识与推理能力。其延迟数值为各测试中位延迟的加权平均值;成本一栏则估算执行一百万项该测试组合任务所需费用,依据各模型公布的费率计算。
模型 | Decision Index 得分 | 每项任务耗时 | 每百万项任务成本 |
|---|---|---|---|
Drex Max v1.1 | 72.62 | 283 毫秒 | 103 美元 |
Jev 1.14 | 66.23 | 92 毫秒 | 156 美元 |
Gemini Decision 1 | 65.98 | 211 毫秒 | 345 美元 |
GPT-6 Luna(Decisions) | 60.25 | 206 毫秒 | 339 美元 |
Clef-Omni | 57.75 | 192 毫秒 | 529 美元 |
Gemini 在该独立评测套件的知识与推理测试中领先。在 AA-Paperclip测试中(每份简历、研究论文、发票或收据均提出 15 个问题),Gemini 在 33% 的文档上全部答对,Jev 为 35.5%,Drex Max v1.1 为 63%。
若某工作流要求每个字段或每项检查均须准确无误,则即使单个答案得分很高,该全有或全无(all-or-nothing)指标仍至关重要。在 Artificial Analysis 的 When2Call 测试运行中,Drex Max 准确率为 94.6%,三者中居首;Jev 为 80.8%,Gemini 为 75.2%。
Jev 在文本路由方面成本更低,而 OpenAI 可在多次调用间复用上下文。
TypeSafe 将 Jev 1.14 定价为 每百万输入 token 0.042 美元,输出免费。与 Gemini 类似,Jev 可在一次调用中评估关于共享记录的多个问题。Jev 的标准限制为:整个请求最多 64K token,共享材料加上任一单独问题最多 32K token。
一项实验性设置可将这两项限制均提升至 262K。Jev 支持文本及结构化 JSON 输入,其 可选图像支持 允许开发者将 PNG 或 JPEG 图像附加至共享材料或任一单独问题。版本 1.14 还新增了一项 实验性边界框答案(bounding-box answer) 功能,用于在图像中定位对象。对于简短的支持工单或常规工具选择任务,Jev 的价格及其在独立评测套件中 92 毫秒的响应时间,使其成为一个良好的基线选择。
OpenAI 使其 Decisions API 正式全面开放使用 该 API 于 10 月 22 日上线。GPT-6 Luna 是该端点唯一支持的模型。单次请求最多可提出 400 个问题,并可使用文本、图像、原生 JSON 或先前工具调用记录作为证据。图像也可单独附加至各个问题中。
开发者在将产品照片与共享参考图像进行比对时,可为每个问题附加不同的图像。对于语音应用,OpenAI 的 GPT-Live 集成可基于部分转录文本触发决策。
OpenAI 对每百万个未缓存输入 token 收费 0.10 美元 ,输出则免费,与谷歌的基础费率一致。其 缓存读取费用为每百万 token 0.01 美元,缓存写入亦需收费。当团队在多个独立请求中反复发送相同的政策手册、产品目录或参考图像时,此机制为其提供了一种选项。 可复用前缀需至少包含 1,024 个匹配的 token,而针对具体问题的内容则置于该前缀之外。区域化处理及长上下文定价也可能影响最终账单。OpenAI 为符合条件的客户文档化了零数据留存(Zero Data Retention)政策,并明确支持在美国、欧洲经济区及瑞士进行区域化处理。
另外两家竞争者也值得纳入考量,前提是其输入格式符合需求。 Nace AI 的 Drex Max v1.1 对每百万输入 token 收费 0.03 美元,支持文本、JSON 和图像输入,因此其独立文档解析与工具调用结果值得与企业自有工作成果进行比对。
对于音频和视频, Cloudflare 的 Clef-Omni 同时支持这两种格式,在 Workers AI 上提供 64,000 token 的上下文窗口,且在此处每百万输入 token 收费 0.15 美元。Cloudflare 还 公开发布模型权重,若团队需在自有环境中运行媒体评估,则此为其第二种选择。
亚马逊的 Strands 使自托管成为一项切实可行的选择
亚马逊于十月发布了 Strands Decider 2B, 正如 VentureBeat 在发布时所报道的那样。其 当前基于 Qwen3.5 的 2B 检查点 支持针对文本的二元判断(是/否)、多项选择题及评分量表类问题。
该模型以 Apache 2.0 许可证发布,附带服务代码与训练方案。团队可在 CPU 或 GPU 上运行该模型,并自行承担计算资源与运维成本。这使其适用于希望将决策环节保留在自有网络内的公司。
亚马逊报告称,该 2B 检查点在 JevBench v1 的 231 项公开任务上、使用 4,096 token 窗口时,准确率达 77.9%。其 早期 v19 检查点 在本地 RTX 3090 显卡上处理单个问题时,中位延迟为 115 毫秒,第 95 百分位延迟为 299 毫秒。亚马逊后续推出的 Gemma 4 系列变体 在相同公开测试集上的准确率范围为 77.9% 至 89.6%。 谷歌与亚马逊分别报告了 JevBench 的测试结果。买家在权衡这些选项时,应在两种部署环境上运行相同的问题集,并测量从请求发出到获得答案的完整耗时。
亚马逊内部一项工单路由部署案例
提供了更清晰的视角,说明自托管如何带来实际收益。工程师曾将 Strands Decider E4B 与 Claude Sonnet 4.6 并行运行,随后切换应用标签的模型。他们精简了 20 类标签的判定标准,并删减了长工单中最早期的评论内容,以适配模型输入限制。 亚马逊报告称,每次调用的平均耗时从约 4.2 秒降至 0.9 秒。按已公布的 AWS 价格及其观测到的实例利用率计算,该团队估算每百万张工单的成本约为 500 美元,相较 Sonnet 工作流的 22,200 美元大幅下降。考虑采用相同方案的买家需自行核算其基础设施容量成本及运维人员工时成本。 决策模型在生产环境中的部署位置
当单一项目以多种格式抵达并触发检查清单时,Gemini 是一个良好的初步试点选择。例如,客服中心可发送一段录音及订单元数据,并要求模型识别问题类型、选择审核队列,并标记通话中是否出现必需的披露声明。
在基于照片的损害评估流程中,同一请求可对照表单证据核查多张照片。在这两类场景中,均需对各项决策进行人工复核。一个出色的队列路由结果,并不能说明模型在罕见披露情形下漏判的频率。
对于构建智能体(agent)的开发者而言,决策模型可部署于工具调用之前。此时可向模型提问:拟调用工具是否相关?对话中是否包含必需细节?该操作是否应由人工复核?还需为超出既有选项范围的情形明确定义升级处理路径。
将访问控制、审批要求及交易限额保留在应用代码中。在 VentureBeat 报道的一次提示注入(prompt-injection)测试中
,仅植入一个字段即导致 Jev 模型阻止某项操作的概率从 0.76 下降至 0.48。
在允许候选模型输出修改客户记录前,应先将其与现有工作流并行运行。使用来自真实流量的标注样本进行测试,包括罕见案例及质量较差的媒体内容。为每一项决策及每一个模型设定置信度阈值。 对于多项选择题,谷歌使用所选选项的概率值作为其置信度得分。在 TypeSafe 的示例中
在让候选模型的输出更改客户记录之前,先将其与现有工作流并行运行。使用来自真实流量的带标签示例,包括罕见案例和捕获质量较差的媒体数据。为每个决策及每个模型设定置信度阈值。
对于一道多项选择题, Google 将所选选项的概率用作其置信度得分。在 TypeSafe 的示例中Jev 为某一选项分配 0.61 的概率,并返回 0.42 的置信度得分。
追踪需人工复核的案例占比、模型自动处理案例中的错误率,以及第 95 百分位的端到端延迟。对于短文本,应在同一数据集上运行 Jev 或 Drex。
对于录音和视频,应在相同片段上对比 Gemini 和 Clef-Omni,并测量每项服务计费的 token 数量。当应用程序能够跨请求复用一个长参考时,应纳入 Luna;当您可在自有环境中部署并提供服务时,应纳入 Strands。
对比每例正确处理案例的成本与耗时,包括仍需人工介入的案例。
JOTO 企业落地观察
- 对企业部署而言,Gemini Decision 1 的‘共享输入+多问题并发评分’架构显著降低高频率轻量判断场景(如工单路由、理赔初筛)的 token 成本与延迟——示例显示千份记录成本从 8.10 美元降至 0.50 美元,但需注意其免费配额仅限 v1beta 和 AI Studio,企业级 Google Cloud 支持尚未上线。
- 对智能体工程而言,该模型明确将‘决策’与‘生成/抽取’解耦:它不执行文字解释或发票编号提取等任务,仅输出结构化概率与加权得分;开发者必须通过代码显式处理决策依赖关系或调用其他模型完成后续动作,这对智能体工作流编排提出更精细的控制要求。
- 对AI安全治理而言,文章揭示了提示注入对决策置信度的实质性干扰(Jev 模型阻止操作概率从 0.76 降至 0.48),且不同厂商对训练数据使用政策存在关键差异(谷歌付费服务禁用数据改进,非付费版则允许);这要求企业在选型时必须同步评估模型输出稳定性与数据合规边界。
立即咨询 JOTO
JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询
想把这些做法用到你的业务里?
留下你的场景和痛点,我们帮你判断从哪一步开始。
联系我们


