在单条回复的用量详情中,输入 Token 下方可查看缓存数量和命中率。命中率按 缓存 Token ÷ 输入 Token 计算,显示一位小数。
仅在服务商返回有效数据,且输入与缓存数量均大于零、缓存不超过输入时显示。未返回、零值或异常数据会隐藏,不能据此判断一定没有使用缓存。
这里展示的是本条回复的用量信息,不等于费用折扣或整个会话的缓存比例;实际计费与缓存规则以服务商为准。
在单条回复的用量详情中,输入 Token 下方可查看缓存数量和命中率。命中率按 缓存 Token ÷ 输入 Token 计算,显示一位小数。
仅在服务商返回有效数据,且输入与缓存数量均大于零、缓存不超过输入时显示。未返回、零值或异常数据会隐藏,不能据此判断一定没有使用缓存。
这里展示的是本条回复的用量信息,不等于费用折扣或整个会话的缓存比例;实际计费与缓存规则以服务商为准。