https://techlog.122113.xyz/tags/ai/Recent content in AI on TechLog 技术日志Hugozh-cnThu, 06 Aug 2026 23:00:00 +0800https://techlog.122113.xyz/posts/2026-08-06-token-cost-truth/Thu, 06 Aug 2026 23:00:00 +0800https://techlog.122113.xyz/posts/2026-08-06-token-cost-truth/<blockquote> <p>仪表盘显示 7 天消耗 4 亿 token,看似吓人——但拆开看,真实成本一个月才几十块。</p> </blockquote> <h2 id="现象">现象</h2> <p><code>hermes insights</code> 显示:</p> <ul> <li>输入 477 万 + 输出 92 万</li> <li><strong>Total 4 亿</strong>(对不上?)</li> </ul> <h2 id="真相total--输入--输出--缓存读--缓存写--推理">真相:Total = 输入 + 输出 + 缓存读 + 缓存写 + 推理</h2> <p>4 亿的真实构成:</p> <table> <thead> <tr> <th>项目</th> <th>数量</th> <th>占比</th> </tr> </thead> <tbody> <tr> <td><strong>缓存读取(cache read)</strong></td> <td>3.99 亿</td> <td><strong>98.6%</strong></td> </tr> <tr> <td>输入</td> <td>447 万</td> <td>1.1%</td> </tr> <tr> <td>输出</td> <td>76 万</td> <td>0.2%</td> </tr> <tr> <td>推理</td> <td>33 万</td> <td>0.08%</td> </tr> </tbody> </table> <p><strong>&ldquo;4 亿&quot;几乎全是缓存读取</strong>——不是真的消耗了 4 亿新 token。</p> <h2 id="为什么有这么多缓存读">为什么有这么多缓存读</h2> <p>长会话场景(如 QQ 单窗口聊天):每轮对话都要把<strong>整个会话历史</strong>重新发给模型。但历史大部分没变,被**上下文缓存(cache)**命中——服务端只收极低的缓存价,不重新计费。</p> <p>单轮实测:发一条消息,输入 2,421 token,但<strong>缓存读 23 万</strong>(整个历史)。</p> <h2 id="成本换算">成本换算</h2> <p>按 DeepSeek V4-Flash 价格(涨价前):</p>https://techlog.122113.xyz/posts/2026-08-06-deepseek-pricing/Thu, 06 Aug 2026 20:30:00 +0800https://techlog.122113.xyz/posts/2026-08-06-deepseek-pricing/<blockquote> <p>2026-08-06,DeepSeek 在开发者后台发布涨价提示,多家媒体(东方财富/新浪财经/界面等)同日报道。</p> </blockquote> <h2 id="核心信息">核心信息</h2> <p>DeepSeek 官方宣布:<strong>近期将整体上调 API 服务定价,预计涨幅较大</strong>,并引入<strong>峰谷定价</strong>机制。</p> <h2 id="当前-v4-flash-价格涨价前">当前 V4-Flash 价格(涨价前)</h2> <p>单位:元/百万 tokens</p> <table> <thead> <tr> <th>计费项</th> <th>平峰</th> <th>高峰(工作日 9-12点/14-18点,翻倍)</th> </tr> </thead> <tbody> <tr> <td>缓存命中输入</td> <td>0.02</td> <td>0.04</td> </tr> <tr> <td>缓存未命中输入</td> <td>1</td> <td>2</td> </tr> <tr> <td>输出</td> <td>2</td> <td>4</td> </tr> </tbody> </table> <p>V4-Pro 当前价:缓存未命中输入 3 元、输出 6 元(高峰翻倍)。</p> <h2 id="2026-年调价轨迹">2026 年调价轨迹</h2> <table> <thead> <tr> <th>时间</th> <th>事件</th> </tr> </thead> <tbody> <tr> <td>4 月</td> <td>限时折扣</td> </tr> <tr> <td>5 月</td> <td>优惠结束,正式定价调整为原价 1/4(大降价)</td> </tr> <tr> <td>6 月底</td> <td>预告 V4 上线涨价 + 引入峰谷定价</td> </tr> <tr> <td>8 月 6 日</td> <td>预告大幅整体上调</td> </tr> </tbody> </table> <h2 id="对重度用户的影响分析">对重度用户的影响分析</h2> <p>以实际用量为例(7 天 4 亿 token,其中 <strong>98.6% 是缓存读取</strong>):</p> <ul> <li>缓存读 3.99 亿 × 0.02 元/百万 ≈ 8 元(平峰)</li> <li>输出 76 万 × 2 元/百万 ≈ 1.5 元</li> <li>输入 447 万 × 1 元/百万 ≈ 4.5 元</li> <li><strong>周成本约 14 元,月约 50-60 元</strong></li> </ul> <p><strong>关键结论</strong>:长会话 + 上下文重发型用量(缓存命中占比极高)恰好是 DeepSeek 定价最友好的场景——即使涨价翻倍,真实成本上升也有限,因为大头是本就便宜的缓存读取。</p>https://techlog.122113.xyz/posts/2026-08-05-memory-tiered-architecture/Wed, 05 Aug 2026 22:00:00 +0800https://techlog.122113.xyz/posts/2026-08-05-memory-tiered-architecture/<blockquote> <p>解决 AI Agent 记忆&quot;不够用、存不下、查不到&quot;三难问题的实践方案。</p> </blockquote> <h2 id="问题背景">问题背景</h2> <p>AI Agent(如 Hermes)的持久记忆面临矛盾:</p> <ol> <li><strong>常驻记忆有容量上限</strong>(默认 2000 字符,可扩容)— 存不了多少事实</li> <li><strong>全部塞进上下文太贵</strong>——每轮对话都要重新发送,按 token 计费</li> <li><strong>低频信息不能丢</strong>——设备配置、排障细节、API 用法,几周后可能还要用</li> </ol> <h2 id="分层方案">分层方案</h2> <pre tabindex="0"><code>┌─────────────────────────────────────────────┐ │ 第一层:常驻记忆(memory) │ │ · 高频事实:IP/端口/凭据位置/用户偏好/关键配置 │ │ · 默认2000字符可扩容,每轮注入上下文 │ │ · 只放精简核心 │ ├─────────────────────────────────────────────┤ │ 第二层:外部知识库(fact_store) │ │ · 低频背景:设备配置/排障细节/软件特性/API用法 │ │ · 大容量、不衰减、不删除、不占 token │ │ · 结构化存储,支持实体关联/组合查询 │ ├─────────────────────────────────────────────┤ │ 第三层:会话历史(session db) │ │ · 完整对话记录,可全文检索 │ │ · 用于回溯&#34;当时怎么做的&#34; │ └─────────────────────────────────────────────┘ </code></pre><h2 id="核心机制">核心机制</h2> <h3 id="1-自动分层存储">1. 自动分层存储</h3> <ul> <li><strong>先扩容常驻记忆</strong>(默认 2000 → 8000 字符),容纳更多高频事实</li> <li>扩容后仍放不下的低频信息 → 外部库</li> <li>Agent 判断信息频度:<strong>高频 → 常驻 memory,低频 → 外部库</strong></li> <li>存储时自动打标签(tags),支持实体关联</li> </ul> <h3 id="2-索引锚点关键设计">2. 索引锚点(关键设计)</h3> <p>外部库内容<strong>不注入上下文</strong>(不占 token),但需要&quot;知道有这回事&quot;才能去查:</p>