Deptrip Blog

分析日期：2026-08-14
涉及产品：Anthropic Claude、OpenAI GPT 系列、Google Gemini 2.5+
核心问题：如何让同样的 prompt 重复调用时少付 90% 的输入 token 费？

一、为什么要认真看待 Prompt Caching？

LLM API 计费的核心公式很简单：输入 token 价格 × 输入 token 数 + 输出 token 价格 × 输出 token 数。当你的 system prompt 有 3000 token、RAG 上下文有 5 万 token、工具定义又占 2000 token，每次请求都在为这些”几乎不变的内容”重复付费。

Prompt Caching 的本质：把每次请求的”共享前缀”缓存起来，重复调用时只对新增部分做完整前向传播（prefill）。三家大厂 2026 年都已落地，但机制、计费、最低门槛差别很大。

AI Agent 调用 web_search 工具是 2026 年最普及的「让 LLM 上互联网」的方式。表面上，模型搜一下、读一下、答一下，流程很顺；但真到生产环境，搜索结果 ≠ 可靠信息，搜索质量直接决定 Agent 回答的可信度。

这篇笔记汇总我们在使用 Hermes Agent、Claude MCP、Cursor Agent 等工具时遇到的真实搜索翻车案例，并给出可复用的 Prompt 护栏。

陷阱 1：搜索词被模型自由发挥，搜偏了

2026 年主流模型的上下文窗口已达百万级，Prompt Caching 把重复前缀成本砍掉 90%。本文系统梳理窗口上限、长上下文惩罚、三家主流平台的缓存机制与成本优化实战。

引言：Agent 为什么”失忆”？

如果你用过任何 AI Agent，一定遇到过这样的场景：聊到一半，它突然”忘了”你五分钟前交代的要求；新开会话后，之前的所有决策需要重新解释一遍。这不是 Agent 不努力，而是记忆架构的缺陷——大多数 Agent 把”记忆”等同于”把上下文塞进 Prompt”，而上下文窗口是有上限的。

随着 Agent 从一次性对话走向长期运行的生产系统，记忆（Memory）已经成为 Agent 架构中独立的、必须认真对待的一层。本文将拆解生产级 Agent 记忆系统的四层架构，并讨论从短期上下文到长期知识图谱的演进路线。

一图看全貌：四层记忆架构

随着 LLM Agent 从实验走向生产，”我的 Agent 到底干了什么、哪一步出错、Token 花了多少”这三个问题，正在成为团队每天都在问的刚需。LLM 可观测性（Observability）平台就是为回答这些问题而生。

2026 年的 LLM 可观测性赛道已经高度成熟。本文对比四款主流平台：Langfuse、LangSmith、Arize Phoenix、W&B Weave，从架构、功能、定价、适用场景四个维度给出选购建议。

四款平台速览

1. Langfuse — 开源可观测性第一选择

如果你每天写代码，大概率已经用过甚至同时订阅了多种 AI 代码助手。但 2026 年的格局变化太快——GitHub Copilot 在 6 月改成用量计费、OpenAI 推出 $100/月的 Codex Pro 5x 直接对标 Claude、Cursor 从免费 IDE 变成了积分制付费——旧的对比文章已经严重过时。

这篇文章基于 2026 年 4–7 月的真实数据（SWE-bench 基准测试、官方定价页、社区反馈），对 Cursor、Claude Code、GitHub Copilot 和 OpenAI Codex 四个主流工具做一次实战级对比，帮你判断该把预算押在哪一个上。

一、先看硬指标：SWE-bench 基准测试

SWE-bench 是目前最权威的 AI 代码能力评测，要求 Agent 在真实开源仓库中定位并修复 GitHub Issue。数据截至 2026 年 4 月：

Computer Use 让 Claude 能看屏幕、动鼠标、敲键盘——这篇文章拆解它的技术架构、API 调用方式和 2026 年的最佳实践。

传统软件 Crash 有错误码，AI Agent 却可能在输出格式完全正常的情况下彻底跑偏。本文系统梳理 AI Agent 七种常见故障模式（上下文退化、规格漂移、谄媚确认等），并给出可落地的四步诊断工作流。

2026 年主流向量数据库全面对比评测，覆盖性能基准、价格、部署方式与选型决策框架，帮你为 RAG 项目选对底层数据库。

2026 年，三大 AI 厂商的旗舰推理模型进入了前所未有的密集迭代期。Anthropic 的 Claude Fable 5 在 6 月 9 日刚刚 GA，OpenAI 的 GPT-5.2 在 2025 年 12 月创下多个纪录，而 Google 的 Gemini 3.5 Pro 则在 6 月底以 200 万 token 上下文窗口杀入战场。这三款模型各有所长，到底该怎么选？本文将用真实基准数据和规格，帮你做出决策。

一、三巨头旗舰模型：核心规格速览

下表汇总了三款模型在 2026 年 7 月的关键规格数据，来源为各厂商官方文档。