国际 AI 资讯

谷歌推出 Gemini Decisions API:单次前向计算最多处理 1000 个问题,延迟 150 至 250 毫秒

谷歌发布 Gemini Decisions API,基于 Gemini Decision 1 模型,面向需要批量判定与打分的场景。开发者可提交多模态材料并提出最多 1000 个互不相关的问题,模型经一次前向计算输出各选项概率与置信度分数。官方给出的整段处理延迟为 150 至 250 毫秒,输入定价为每百万 Tokens 0.10 美元,输出不收费。

海宇数科 · 事件日期 · 约 2 分钟 · 1 次阅读

谷歌推出 Gemini Decisions API:单次前向计算最多处理 1000 个问题,延迟 150 至 250 毫秒 配图
谷歌推出 Gemini Decisions API:单次前向计算最多处理 1000 个问题,延迟 150 至 250 毫秒 配图

谷歌于 11 月 11 日发布 Gemini Decisions API,该接口由新模型 Gemini Decision 1 驱动,目标场景是需要重复进行是非判断、方案选择与评分的任务,重点在于压缩响应延迟。

一次喂千题,前向计算直接给分

开发者可提交由文本、图像、音频、视频或 PDF 组成的多模态材料,上限为 256K Tokens,并一次性提出最多 1000 个彼此独立的问题。Gemini Decision 1 通过一次前向计算为每个选项给出概率和置信度分数,无需像传统流程那样拆分为上百次调用。官方列举的适用方向包括工具选择、策略核查、模型路由与上下文质量评估,例如将通话录音与账户信息一并输入,或将扫描版理赔单与受损照片组合后交由模型集中核验。

谷歌推出 Gemini Decisions API 单次前向计算最多处理 1000 个问题 延迟 150 至 250 毫秒 配图 1
相关配图

快且便宜,分辨率还能调

性能方面,谷歌给出的整段处理延迟为 150 至 250 毫秒;价格方面,输入为每百万 Tokens 0.10 美元(约 0.67 元人民币),输出 Tokens 不收费。开发者可手动调整图像和视频的分辨率,以在视觉细节与 Token 开销之间取舍。该 API 目前已在 Google AI Studio 上线,并提供免费额度用于原型开发。

← 返回AI 资讯