谷歌推出 Gemini Decisions API，实现极速低成本的多模态决策

据Google AI发布的信息：

工作原理

跟传统大模型逐个字蹦答案不同，Gemini Decision 1 采用单次前向计算直接给候选选项打分。它支持文本、图片、音频、视频和最多 25.6 万个 Token 的 PDF，开发者可以在单次请求中同时问多达 1,000 个独立问题。每个答案都会附带一个置信度分数，方便代码自动把拿不准的情况转给人工或者备用方案。

性能与价格

它的端到端延迟能控制在 150 到 250 毫秒之间，定价为每百万输入 Token 0.10 美元，而且完全不收输出 Token 的钱。谷歌表示，在同类基准测试中，它的成本比常规生成式方案便宜将近 5 倍。

实际应用

谷歌内部团队已经开始把这个 API 当作低latency的控制中枢来用。比如，Gemini Notebook 用它来实现动态模型路由，把日常查询的延迟降低了最多 40%；Stitch 用它快速迭代设计；Google Labs 用它秒选表情包；谷歌搜索也用它来做工具的安全防护层。