谷歌推出 Gemini Decisions API:单次前向传递打分,延迟低至150毫秒
谷歌发布由 Gemini Decision1 模型驱动的 Gemini Decisions API,单次前向传递对预设选项评分,端到端延迟约150至250毫秒,定价为每百万输入 Token 0.10 美元。
海宇数科 · 事件日期 · 约 2 分钟 · 1 次阅读

谷歌正式推出 Gemini Decisions API,这是一个由 Gemini Decision1 模型驱动的新端点,目标是让人工智能智能体在日常运行中快速完成预设决策,避免传统模式下生成冗长文本回复的步骤。
核心功能与运行机制:单次前向传递实现高效评分
与逐 Token 生成回复的传统大模型不同,Gemini Decision1 在单次前向传递中直接对预设选项进行综合评分,并返回对应的概率和置信度分数。
基于这一设计,该接口的端到端延迟被控制在 150 到 250 毫秒之间,可满足智能体在高频交互场景下的实时响应需求。
Gemini Decisions API 支持多模态输入。开发人员可以针对包含文本、图像、音频、视频和 PDF 的共享多模态输入,在单次 API 调用中评估最多 1000 个独立问题。具体调用形式包括:
简单的“是或否”检查。
最多包含 255 个选项的多选题。
基于预设评分标准的打分请求。
普惠定价与应用前景
在价格方面,谷歌公布的标准为每百万输入 Token 收费 0.10 美元。
有分析人士指出,大模型在各行业深入应用后,智能体在后台执行复杂工作流时需要进行大量轻量级判断和路线选择。Gemini Decisions API 跳过文本生成的中间环节,有助于降低计算成本与响应延迟,为构建响应更迅速的复杂 AI 智能体应用提供底层基础设施。
