缓存命中、写入和读取如何计费,取决于上游模型与本站的倍率。不能保证每个厂商都有相同折扣,也不能把客户端显示的缓存 token 直接当作免费用量。
减少无意义的重复输入有助于控制消耗:保持任务相关上下文,避免反复附上不需要的大文件;必要时整理或压缩过长会话。不要为追求缓存一直追加历史,长上下文本身也可能增加消耗。
本站没有要求另装缓存代理,也不会通过删除客户端的登录或会话文件来修复配额。出现异常时保留请求 ID,检查消费记录中实际上报的缓存字段和结算参数。计量局限。