谷歌 Gemini 2.5 API 推“隐式缓存”,开发者成本最高降低 75%

5 月 10 日消息,科技媒体 WinBuzzer 昨日(5 月 9 日)发布博文,报道称谷歌为其 Gemini 2.5 API,推出了“隐式缓存”(Implicit Caching)功能,自动识别并重用 API 请求中的常见前缀,开发者的成本最高可以降低 75%。

该功能适用于 Gemini 2.5 Pro 和 Gemini 2.5 Flash 模型,自动检测 API 请求中的重复前缀并加以重用,开发者的使用成本最高可以降低 75%。

注:与 2024 年 5 月推出的“显式缓存”(Explicit Caching)不同,隐式缓存无需开发者手动配置,系统默认开启,节省成本的同时大幅简化操作流程。

今日霍州(www.jrhz.info)©️

为帮助开发者充分利用隐式缓存,谷歌建议在构建提示词(prompt)时,将稳定、常见的内容放在开头,后面再添加用户特定的变量内容。此外,短时间内发送具有相似前缀的请求也能提高缓存命中率。

谷歌还设定了最低 Token 数量要求:Gemini 2.5 Flash 需 1024 个 Token,Gemini 2.5 Pro 则需 2048 个 Token。API 响应中新增的“cached_content_token_count”字段会显示缓存 Token 的使用情况和优惠计费详情。

与此同时,显式缓存仍作为可选方案,支持 Gemini 2.5 及 2.0 模型,允许开发者自定义缓存内容和生存时间(TTL,默认 1 小时)。

谷歌此举虽宣称成本节省 75%,但实际效果尚待第三方验证,且可能因使用模式不同而有所差异。

今日霍州(www.jrhz.info)©️

特别声明:[谷歌 Gemini 2.5 API 推“隐式缓存”,开发者成本最高降低 75%] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

王晶爆料后全网等辟谣,『古天乐』反手一个操作,让质疑者无话可说(王晶专访视频)

四个月前,导演王晶不知是心血来潮还是“手滑”,轻飘飘抛出一句“『古天乐』早已在美国秘婚”,瞬间点燃全网。真相这才震撼世人:2009至2014短短五年间,『古天乐』竟默默捐建了一百多所偏远地区的学校! 若说『古天乐』的成…

王晶爆料后全网等辟谣,『古天乐』反手一个操作,让质疑者无话可说(王晶专访视频)

智能插座守护家居用电安全之道(智能插座啊)

为何越来越多的家庭选择智能插座作为用电新助手?本文深入解析这种多功能设备的幕后运作、实际价值及其对现代生活的深远影响,揭示如何通过科技手段实现用电安全与便利。

智能插座守护家居用电安全之道(智能插座啊)

大卫拖把桶:免手洗旋转拖地新潮流(大卫拖把怎么用的)

为何拖地这项日常家务能如此轻松?本文深入解析大卫拖把桶的独特设计与创新功能,带您领略免手洗拓扑旋转拖把的新世界。 这款手压双驱动旋转拖把桶究竟有何独特之处?其背后又蕴含了哪些家居清洁理念革新?本文将为您揭开谜底。

大卫拖把桶:免手洗旋转拖地新潮流(大卫拖把怎么用的)

“科技聚焦:中国科技信息的全球传播与国际影响力”国际传播沙龙在京举办

中国传媒大学教授、博士生导师、数字伦理研究所所长龙耘认为,在国际传播中,人工智能突破了语言的障碍和渠道的限制,但语意会在翻译中流失,从而产生误解。 国际科技传播研究院由中国科协与中国日报社共建,依托中国科协…

“科技聚焦:中国科技信息的全球传播与国际影响力”国际传播沙龙在京举办

驻塔吉克斯坦使馆提醒中国公民撤离 紧急安全提示(驻塔吉克斯坦使馆李玉萍)

中国驻塔吉克斯坦使馆提醒中国企业和人员紧急撤离塔阿边境地区,其他旅塔中国公民切勿前往上述地区,并做好安全防范。如遇紧急情况,请及时报警并联系使馆寻求帮助。塔吉克斯坦的报警电话如下:火警01,匪警02,急救03

驻塔吉克斯坦使馆提醒中国公民撤离 紧急安全提示(驻塔吉克斯坦使馆李玉萍)