AI Coding 工程的
6 层演进

什么是 Prompt？

一段被送进 LLM 的文本——它决定了模型"想做什么"，是所有 AI Coding 工程的起点。

核心术语

历史时间线：从续写文本到结构化指令

Prompt 工程的演化史，本质上是"如何让模型听懂人话"的探索史。

• 2019.02
  GPT-2 续写范式

  "继续写下去"是唯一的 prompt 范式；效果差，主要用于研究
• 2020.05
  GPT-3 论文定义 Few-shot

  Brown et al. 在 175B 参数规模上证明：纯靠 prompt 中的示例，模型就能学会新任务，In-Context Learning 概念正式诞生
• 2022.01
  Chain-of-Thought 论文

  Wei et al. 在 arXiv 发布 CoT，证明"let's think step by step"这一句话就能让模型在数学/推理任务上准确率翻倍
• 2022.03
  InstructGPT · Instruction Tuning

  OpenAI 用人类反馈微调 GPT-3，让模型天然理解指令——从此 prompt 不再需要"诱导式"措辞
• 2022.10
  ReAct 论文

  Yao et al. 提出 Reason + Act 循环，prompt 内嵌 Thought/Action/Observation 三段式，开启 Agent 时代
• 2022.11
  ChatGPT 引爆对话范式

  RLHF 后的 ChatGPT 让"对话即 prompt"成为大众直觉；开发者社区疯狂挖掘 prompt 技巧
• 2023.03
  ChatML / System Message 标准化

  OpenAI 推出 Chat Markup Language，把 prompt 拆分为 system / user / assistant 三段，Prompt 工程正式成为独立学科
• 2023.05
  Tree of Thoughts · Self-Consistency 流行

  推理任务 prompt 范式细化：从单链 CoT → 多链投票 → 树搜索
• 2023.11
  OpenAI GPTs · Prompt 产品化

  GPTs 让普通用户也能"封装一个 prompt"，Prompt 工程从开发者技能下沉到大众工具

六大翻车，逼出了下一层

Prompt 阶段回答了"模型能听懂"，但回答不了"模型能做什么"。

技术原理：一个 Prompt 的六大组件

高质量 prompt = 角色 × 任务 × 约束 × 示例 × 格式 × 思维链。下面是 Matt Nigh 的 CRISPE 模板——把"凭感觉写 prompt"变成"按结构填空"。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
C · Capacity and Role   角色与能力
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
你是一位拥有 10 年经验的[领域]专家，
擅长把复杂概念讲给一线工程师听。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
R · Request   任务陈述
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
请帮我写一篇关于 [主题] 的 [文体]，
目标读者是 [受众]，核心目的是 [目的]。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
I · Insight   背景与上下文
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
背景：[领域现状 / 用户痛点 / 已有方案]
限制：[字数 / 风格 / 时间 / 预算]

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
S · Statement   输出要求
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
结构：[开头 / 主体 / 结尾 应包含哪些要素]
风格：[语言 / 节奏 / 称呼 / 段落长度]
长度：[字数范围 / 段落数]

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
P · Personality   个性化
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
语气应该像：[人物 / 文章 / 品牌的风格]
避免：[口癖 / 套话 / 偏见词]

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
E · Experiment   示例与反例
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
示例输入 1：[真实场景]
理想输出 1：[完整示例]
错误输出 → 修正：[反例 + 修正版]

其他常用模板：CO-STAR（Context, Objective, Style, Tone, Audience, Response）、RTGO（Role, Task, Goal, Output 极简版）、RISEN、BROKE。它们都是 CRISPE 的"行业方言"，按场景挑用即可。

ReAct：让 Prompt 内嵌"思考-行动-观察"循环

经典 ReAct 论文给出的范式——prompt 不再是单次问答，而是 Thought → Action → Observation 的循环。

Question      科罗拉多州东方部落区域的面积？

Thought 1     需要查科罗拉多州 + 东方部落 + 面积。
Action 1      Search[科罗拉多州 东方部落 区域]
Observation 1 面积约 482,000 km²

Thought 2     还需要确认是"东方部落"区域。
Action 2      Lookup[东方部落]
Observation 2 东方部落 = Ute 部落

Thought 3     已知面积且属于 Ute。
Action 3      Finish[科罗拉多州东方部落区域面积约 482,000 km²]

优势与边界

Prompt 阶段是脆弱的——业务关键场景必须叠加 Context + Harness + Environment。

何时 Prompt 就够了？何时该进 Context？

代表项目

真实案例

什么是 Context Engineering？

Karpathy 2025 年的命名——LLM 应用的核心是"在每一步为模型填入正确上下文"。

核心术语

历史时间线：从字符串拼接到上下文工程

5 年时间，Context 从"把所有文档塞进 prompt"演化成独立学科。

• 2017.06
  Transformer 架构提出

  "Attention Is All You Need"——后续一切 LLM 与 context 工程的基础
• 2019
  DPR (Dense Passage Retrieval)

  证明 dense retrieval（向量检索）优于传统 BM25 关键词检索，奠定 RAG 检索底座
• 2020.05
  RAG 原始论文

  Lewis et al. (Meta AI) 在 NeurIPS 发表《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》
• 2022
  Pinecone 走红 · 向量数据库元年

  向量数据库正式成为独立赛道；Milvus / Weaviate / Qdrant 纷纷开源
• 2023.06
  OpenAI Function Calling

  GPT-4 / 3.5 引入 function calling，让"工具结果"成为 context 的合法组成部分
• 2023.07
  LangChain & LlamaIndex 成为 RAG 标配

  "加载→切分→嵌入→检索→生成"5 行代码的工程范式确立
• 2024.02
  长上下文元年

  Google 发布 Gemini 1.5 Pro，1M tokens context——"是不是不需要 RAG 了"的辩论开始
• 2024.05
  Claude 3.5 Sonnet (200K) + GPT-4o (128K)

  长上下文军备竞赛白热化；Anthropic 发布"prompt caching"降低长 context 成本 10×
• 2024
  GraphRAG / Self-RAG / Agentic RAG

  Microsoft 发布 GraphRAG；Self-RAG 引入 reflection token；RAG 进入反思与多跳时代
• 2025.06
  Karpathy 命名 "Context Engineering"

  前 OpenAI / Tesla AI 主管在 X 平台正式命名"Context Engineering"，业界广泛响应

Prompt 答不了的四类问题

私有数据 / 时效性 / 领域知识 / 个性化——Prompt 阶段的四个"信息缺口"。

技术原理：RAG 完整 9 步 Pipeline

从源文档到 LLM 回答：加载 → 切分 → 嵌入 → 索引 → 检索 → 重排 → 注入 → 生成 → 后处理。

优势与代价

RAG 把"凭印象"变成"凭证据"，但工程复杂度大幅上升。

RAG 已经从"问答工具"演化成"AI 应用的操作系统"——Context Engineering 是 OS 层。

代表项目

真实案例

什么是 Agent Harness？

围绕 LLM 的所有外部系统——工具调度、状态管理、权限控制、人机协作的"运行时"。

核心术语

历史时间线：从对话 LLM 到真干活 Agent

3 年时间，Agent 从论文范式演化成生产级软件栈。

• 2022.10
  ReAct 论文

  Yao et al. 提出 Reason + Act 循环，奠定 Agent 范式的认知底座
• 2023.03
  ChatGPT Plugins + GPT-4

  OpenAI 推出 Plugins 体系，LLM 第一次"能动手"——但还是受控于 OpenAI 生态
• 2023.04
  AutoGPT / BabyAGI 爆火

  GitHub 上一周斩获 10 万 star，让"Agent 自己循环做事"成为大众认知
• 2023.06
  OpenAI Function Calling

  GPT-4 / 3.5 引入 function calling，开发者终于能稳定地让 LLM 调外部 API
• 2023.10
  Anthropic Claude 2 Tool Use

  Claude 引入官方 Tool Use；LangChain AgentExecutor 成为 Python 事实标准
• 2024.03
  Devin 发布 · 营销 vs 现实之争

  Cognition 推出 Devin 演示，引发"AI 软件工程师"是否能取代人类的大讨论
• 2024.10
  Anthropic Computer Use

  Claude 3.5 Sonnet 可以直接操作 Ubuntu 桌面，Agent 跨入 OS 级操作
• 2024.11
  Anthropic 发布 MCP 协议

  Model Context Protocol 开源——"USB-C for AI"，标准化 Agent 与工具的对接
• 2025.02
  Claude Code 正式发布

  Anthropic 推出终端优先的 Coding Agent，工程级 Harness 时代到来
• 2025.04
  Google A2A + IBM ACP 协议

  Agent 间通信协议标准化；多 Agent 协作进入基础设施时代

Context 只能"看"，但 Agent 需要"动"

把模型从"聪明的回答者"升级为"能完成任务的执行者"——这就是 Harness 要解决的事。

技术原理：ReAct Loop · Harness 最小代码

Tool Registry 调度、State Store 记忆、Permission Layer 把关、Loop Controller 推、Observation Handler 收。

class AgentHarness:
    def __init__(self, llm, tools, permissions):
        self.llm = llm
        self.tools = ToolRegistry(tools)
        self.perms = PermissionLayer(permissions)
        self.state = StateStore()    # 持久化
        self.trace = Tracer()

    def run(self, task, max_steps=20):
        self.state.add("user", task)
        for step in range(max_steps):
            # ① 思考
            thought = self.llm.think(self.state.history)
            self.trace.log(step, "thought", thought)

            # ② 决策动作
            action = self.llm.decide(thought, self.tools.schemas())
            if action.type == "finish":
                return action.result

            # ③ 权限把关
            if not self.perms.allow(action, self.state.user):
                action = self.perms.ask_human(action)

            # ④ 执行 + 错误恢复
            try:
                observation = self.tools.call(action)
            except ToolError as e:
                observation = ErrorRecovery(e).handle(action)

            # ⑤ 更新状态
            self.state.add("assistant", thought, action)
            self.state.add("tool", observation)
            self.state.checkpoint()  # 每步存档

        raise MaxStepsError("循环未收敛")

MCP 三层架构

HOST / CLIENT / SERVER 三层——Anthropic 把"工具调用"标准化为 JSON-RPC 协议。一次开发，全模型通用。

• HOST · Claude Code / Cursor 等客户端
• CLIENT · 1:1 连接 MCP Server，转发 JSON-RPC
• SERVER · 暴露 Resources / Prompts / Tools / Sampling 四类能力

// MCP Server 示例（Cloudflare）
import { Server } from "@modelcontextprotocol/sdk"

const server = new Server({name: "cloudflare"})

server.setRequestHandler("tools/list", () => ({
  tools: [{
    name: "deploy_worker",
    description: "Deploy a Worker script",
    inputSchema: { script: "string" }
  }]
}))

核心组件清单

• Tool Registry · 工具清单 + schema + 文档
• Tool Runtime · 真实执行 + 超时 + 重试
• State Store · 历史 + Checkpoint + 恢复
• Permission Layer · 白名单 / 黑名单 / 审批
• Loop Controller · 步数上限 / 收敛判断
• Observation Handler · 结果解析 + 错误恢复

优势与未解决的

让 Agent 真干活——但 Harness 还无法保证"能干一整天"。

Harness 让 Agent 能"动手"，但只能动一下——下一站，让它能持续推进：Loop。

代表项目

真实案例

什么是 Agent Loop？

让 Agent 能跨多步推理、持续反思、记忆与恢复的执行循环。

核心术语

历史时间线：从单次推理到长跑 Agent

3 年时间，Agent 学会"自己想想、自己再试一次"。

• 2022.01
  Chain-of-Thought

  Wei et al. 让模型"逐步思考"，开启多步推理时代
• 2022.10
  ReAct

  Thought → Action → Observation 循环成为 Agent 标准范式
• 2023.03
  Self-Refine 论文

  Madaan et al. 让模型对自己的输出做迭代改进，无需额外训练
• 2023.04
  BabyAGI / AutoGPT

  任务队列 + 持续循环模式流行；大众第一次看到 Agent 自主推进任务
• 2023.07
  Reflexion 论文

  Shinn et al. 让 Agent 用自然语言反思失败，把反思写进记忆，下轮改进
• 2023.10
  Tree of Thoughts

  把推理展开为搜索树，支持回溯和评估，复杂问题能力大幅提升
• 2023.12
  MemGPT 论文

  Packer et al. 把 context 类比 OS 内存，主存 + 外存分层管理
• 2024.03
  Devin 发布

  Cognition Devin 演示长任务 Agent，引发行业对"AI 软件工程师"的大讨论
• 2024.10
  Claude 3.5 Sonnet Computer Use

  带反思的多步 OS 操作 Agent 进入生产可用阶段
• 2024.12
  Anthropic 《Building effective agents》

  Anthropic 总结 Agent 设计模式：Workflow vs Agent 的工程化取舍

Harness 只能"调一次"，但真实任务需要"跑一天"

5 个驱动力把 Agent 从"单次调用"逼成长跑系统。

技术原理：6 节点状态机

Planner → Executor → Observer → Reflector → Memory Updater → (loop) — 反思与记忆是 Loop 的两大支柱。

class LoopAgent:
    def __init__(self, llm, tools, memory):
        self.llm, self.tools = llm, tools
        self.memory = Memory()  # 短期/工作/长期/情景
        self.checkpoint = CheckpointStore()

    def run(self, goal, max_iter=30):
        plan = self._plan(goal)        # Planner
        self.memory.short_term.add("goal", goal)
        self.memory.short_term.add("plan", plan)

        for it in range(max_iter):
            # ① 选择下一个子任务
            sub = self._select_next(plan, self.memory)
            if sub is None: break

            # ② 执行 + 观察
            action = self.llm.act(sub, self.memory.short_term)
            obs = self.tools.call(action)
            self.memory.short_term.add("obs", obs)
            self.checkpoint.save(self.memory)

            # ③ 反思 (Reflection)
            reflection = self.llm.reflect(sub, action, obs)
            if reflection.is_failure():
                plan = self._revise(plan, reflection)

            # ④ 长期记忆更新
            if obs.is_novel():
                self.memory.long_term.add(obs.summary)

            # ⑤ 收敛判断
            if self._is_goal_met(plan, self.memory):
                return self._compose_answer()

        raise UnfinishedError("达到迭代上限")

    def resume(self, ckpt_id):
        state = self.checkpoint.load(ckpt_id)
        self.memory = state.memory
        return self.run(state.remaining_goal)

6 节点循环图：

   ┌──────────────────────────────────┐
   ▼                                  │
Planner  →  Executor  →  Observer
   │           (action)      (result)
   │                          │
   │                          ▼
Memory Updater  ←  Reflector
   │                (是否成功 / 怎么改)
   └─────────────────── loop ───────┘
         // 直到目标收敛 或 步数耗尽

关键设计点

• 规划 · 显式 Plan + 动态修正
• 反思 · 每步评估，失败时改写 plan
• 记忆 · 分层：短 / 工 / 长 / 情景
• Checkpoint · 崩溃可恢复
• 调度 · BFS / DFS / Beam Search
• 容错 · 失败重试 + 降级 + 求助

能力与陷阱

单轮 Prompt vs Workflow vs Loop Agent——看清边界。

Loop 能让 Agent 跑得久，但不会越跑越好——下一步，让它能改一点自己：Self-Harness。

代表项目

真实案例

什么是 Self-Harness（自我外骨架）？

让 Agent 在运行时修改自己的 prompt、工具、策略甚至代码骨架——从"被工程优化"变成"自己优化自己"。

核心术语

历史时间线：从 Gödel Machine 到 AlphaEvolve——38 年

Self-Harness 不是 2024 的新发明——它的思想骨架来自 1987 年的 Gödel Machine，只是 LLM 让它第一次变得工程可落地。

• 1987
  Gödel Machine

  Schmidhuber 提出理论：Agent 可改自己的代码，前提是数学证明改完会更好
• 2009
  Self-Improving AI

  Clune 系统综述：把"自改进"明确列为 AI 的第三条路径
• 2017
  AlphaGo Zero

  纯自我对弈超越人类棋谱——第一次大规模验证 self-play scaling law
• 2022.11
  APE 论文

  Zhou et al. 让 LLM 自我生成 prompt 候选集，比人工调优更优 25%
• 2022.12
  Constitutional AI

  Anthropic 让 LLM 按宪法原则自我批评 + 改写
• 2023.03
  Self-Refine

  Madaan et al.：同模型多轮自我迭代，质量提升 5–20%
• 2023.09
  OPRO / Promptbreeder

  Google 用 LLM 当优化器；DeepMind 用进化算法搜 prompt
• 2023.10
  DSPy

  把 prompt 编程化：声明式 signature + 自动 compiler 优化
• 2024.02
  GRPO（DeepSeekMath）

  去掉 critic 模型，纯策略梯度，训练成本砍 50%
• 2024.08
  Sakana AI Scientist

  端到端自主科研 Agent：从假设到论文初稿
• 2024.12
  DeepSeek-R1

  纯 RL 训练 base 模型涌现推理能力，GRPO 主流化
• 2025.04
  Gödel Agent / Darwin G.M.

  递归自指 Agent 框架；Yike Tech 提出 DGM 进化设计
• 2025.05
  AlphaEvolve

  DeepMind 进化代码 Agent，优化 Borg / Gemini 训练 kernel 等

Loop 能"跑一天"，但不会"越跑越好"

5 个天花板把工程从"写 Prompt"逼到"让 Agent 自己改 Prompt"。

技术原理：三条路径

A 提示进化 / B 强化学习 / C 代码自改——三条路径殊途同归到"用评估信号驱动 Agent 自身的迭代"。

路径 A · Prompt 进化（DSPy / OPRO）

import dspy

class QA(dspy.Signature):
    """给定问题，从上下文回答。"""
    question = dspy.InputField()
    context  = dspy.InputField()
    answer   = dspy.OutputField()

class CoT_QA(dspy.Module):
    def __init__(self):
        super().__init__()
        self.gen = dspy.ChainOfThought(QA)
    def forward(self, question, context):
        return self.gen(question=question, context=context)

agent = CoT_QA()
# 自动用 200 条标注做 BootstrapFewShot 优化
optimizer = dspy.BootstrapFewShot(metric=dspy.evaluate.answer_exact_match)
optimized = optimizer.compile(agent, trainset=trainset)

# 输出：新 prompt 比人手写的准确率高 +14%

路径 B · GRPO（强化学习优化策略）

# DeepSeek-R1 / GRPO 核心
for each prompt q:
  sample G responses {o_1, ..., o_G} from π_θ_old
  compute reward r_i for each o_i (e.g. 答案是否正确)
  advantage A_i = (r_i - mean(r)) / std(r)
  update θ to maximize:
    J(θ) = E[min(ρ_i·A_i, clip(ρ_i, 1-ε, 1+ε)·A_i)]
        - β · KL(π_θ || π_ref)
  where ρ_i = π_θ(o_i|q) / π_θ_old(o_i|q)

# 关键：去掉 critic 模型，纯组内相对优势
# 训练成本比 PPO 砍 ~50%

路径 C · 代码级自改（AlphaEvolve / Gödel Agent）

10 维优缺点

Self-Harness 让 Agent 真正"越用越聪明"——但也打开了潘多拉魔盒：奖励黑客、改坏自己、合规失守。

Self-Harness 打开了潘多拉魔盒——必须叠加一个可信的世界来约束它：Environment。

代表项目（20+）

Prompt 编译与自动优化

• DSPy · 声明式 + 自动 compiler；Stanford 出品；编程式 prompt · github.com/stanfordnlp/dspy
• OPRO · LLM 当优化器；Google DeepMind；Big-Bench Hard SOTA · arxiv.org/abs/2309.03409
• Promptbreeder · 进化算法自我繁殖 prompt；Google DeepMind · arxiv.org/abs/2309.16797
• APE · Automatic Prompt Engineer；Instruction induction SOTA · arxiv.org/abs/2211.01910
• TextGrad · 把"文本反馈"当 gradient；Stanford · github.com/textgrad/textgrad

RL 训练框架（Agentic RL）

• verl · 字节火山引擎 LLM RL 框架；支持 PPO/GRPO/RLOO · github.com/volcengine/verl
• OpenRLHF · 开源 RLHF 高性能实现；清华团队 · github.com/OpenRLHF/OpenRLHF
• TRL · HuggingFace 官方 RL 库；PPO/DPO/GRPO 全支持 · github.com/huggingface/trl
• Open-Reasoner-Zero · 复现 DeepSeek-R1 范式；纯 RL 涌现推理 · github.com/Open-Reasoner-Zero
• RLVR-IF · 可验证反馈 RL；Anthropic Constitutional 思想开源化 · github.com/RLVR-IF

代码级自改进 / 自指 Agent

• AlphaEvolve · DeepMind 进化代码 Agent；优化 Borg + Gemini kernel · deepmind.google/alphaevolve
• Sakana AI Scientist · 端到端自主科研；写论文 + 跑实验 · sakana.ai/ai-scientist-first
• The AI Scientist v2 · Sakana 二代；接近顶会发表质量 · github.com/SakanaAI/AI-Scientist-v2
• Gödel Agent · 递归自指 Agent 框架；Yike Tech · github.com/YikeTech/godel-agent
• Darwin Gödel Machine · 进化式自指 Agent；SWE-Bench 20→50% · github.com/jincheng9/dgm

持续学习 / 自我进化工具

• Voyager · Minecraft 终身学习 Agent；技能库自我扩展 · github.com/MineDojo/Voyager
• Mem0 / Letta · 记忆层让 Agent 跨会话成长 · github.com/mem0ai/mem0
• Auto-Evol · Agent 自生成评测 + 自优化闭环 · github.com/auto-evo
• PrompEvol · 国内开源 prompt 进化框架 · github.com/promptevol
• OpenPipe · 把 prompt 优化转为模型蒸馏 + RL · github.com/openpipe/openpipe

真实案例

什么是 Environment（环境层）？

Agent 不再是单个程序——它住在由沙箱、协议、记忆、可观测性、治理共同组成的"数字工作场所"里。

核心术语

历史时间线：从 LangSmith 到 A2A——Agent OS 5 年成形

Environment 不是一夜出现的——它由可观测性、协议层、容器化、可验证奖励逐步叠加而成。

• 2019
  Temporal 创立

  Durable Execution 范式确立：长工作流跨故障续跑
• 2020
  Firecracker

  AWS 开源 MicroVM，Lambda 隔离层；Agent Sandbox 雏形
• 2022.10
  LangSmith（封闭 beta）

  LangChain 推出 LLM Trace 平台
• 2023.04
  Langfuse 开源

  OSS 阵营进入 LLM Observability
• 2023.10
  LangGraph 发布

  "Agent 编排" 概念产品化
• 2024.04
  Arize Phoenix

  OpenTelemetry 兼容的 LLM Eval 平台
• 2024.11
  MCP 协议发布

  Anthropic 把"工具调用"标准化为协议，跨模型互通
• 2025.02
  Claude Code GA

  首个成熟商用 Agent OS：Claude + Tools + MCP + Sandbox
• 2025.04
  A2A / ACP 协议

  Google A2A + IBM ACP 把"Agent 间通信"标准化
• 2025.05
  E2B / Daytona / Modal

  云端 Agent Sandbox 服务化，5 秒启 Docker
• 2025.06
  Durable Agent 全栈

  Temporal + Restate + DBOS 三足鼎立
• 2025.Q3
  Agent Gateway / Cost Guard

  Cloudflare / Helicone / Portkey 把"LLM 流量"做成了 API Gateway

Self-Harness 会"改坏自己"——必须进 Environment

5 个翻车把 Self-Harness 逼进 Environment——没有可信世界，再聪明的 Agent 也是失控的火。

技术原理：Agent OS 的 7 层架构

Agent 不再是孤岛——它住在 Sandbox 里、通过 MCP 调工具、通过 A2A 谈协作、通过 Gateway 接受治理。

MCP 最小 Server 示例

// my-mcp-server/index.ts
import { McpServer } from "@modelcontextprotocol/sdk/server/mcp.js";
import { StdioServerTransport } from "@modelcontextprotocol/sdk/server/stdio.js";
import { z } from "zod";

const server = new McpServer({ name: "weather", version: "1.0.0" });

server.tool("get_weather", {
  city: z.string().describe("城市名"),
}, async ({ city }) => {
  const r = await fetch(`https://api.weather.com/${city}`);
  const data = await r.json();
  return {
    content: [{ type: "text", text: `${city}: ${data.temp}°C ${data.desc}` }],
  };
});

const transport = new StdioServerTransport();
await server.connect(transport);

// 任何 MCP 客户端（Claude Code / Cursor / Continue）即可调用

单 Agent 部署 vs Environment-aware 部署

10 个维度的对比——单 Agent 部署在 Demo 里 OK，Production 必须 Environment-aware。

再聪明的 Agent，住在沙地里也跑不出火星车——Environment 是 Agent 的物理载体。

代表项目（25+）

协议层 (MCP / A2A / ACP)

• MCP SDK · Anthropic 模型上下文协议；Python/TS/Rust/Java 全实现 · github.com/modelcontextprotocol
• MCP.so · MCP Server 目录；上千个即装即用工具 · mcp.so
• Cloudflare MCP · 边缘 MCP Server；全球 300+ 节点 · developers.cloudflare.com/mcp
• A2A Protocol · Google 主导的 Agent 间通信；JSON-RPC + Agent Card · github.com/google-a2a
• ACP (BeeAI) · IBM 主导；跨云 Agent 通信 · github.com/i-am-bee/acp

Sandbox / Runtime

• Docker · 通用容器；Agent 任务隔离基础 · docker.com
• gVisor · Google 用户态内核；安全沙箱 · github.com/google/gvisor
• Firecracker · AWS MicroVM；亚秒启动 · github.com/firecracker-microvm
• E2B · 云端 Agent Sandbox；5 秒启 Docker · e2b.dev
• Daytona · 开源 DevSandbox；Stateful AI runtime · github.com/daytonaio/daytona
• Modal · Serverless Sandbox；GPU/CPU 弹性 · modal.com

Observability / Eval

• Langfuse · OSS LLM Observability；OpenTelemetry 兼容 · langfuse.com
• Arize Phoenix · 开源 Eval + Tracing；LLM 调试首选 · phoenix.arize.com
• Helicone · LLM 网关 + 日志 + 缓存 · helicone.ai
• LangSmith · LangChain 商业版；最成熟 · smith.langchain.com
• Braintrust · LLM Eval + 实验管理 · braintrust.dev

Durable Execution / Governance

• Temporal · Durable Execution 工业标准；长工作流 · temporal.io
• Inngest · Serverless Durable Functions；事件驱动 · inngest.com
• Restate · 轻量 Durable Execution；Rust 写 · restate.dev
• DBOS · 数据库事务 + Durable Workflow · dbos.dev
• Portkey · LLM Gateway + 路由 + 缓存 · portkey.ai

真实案例

综合：六层洋葱怎么合

把六层摊开看，不是"先后顺序"也不是"二选一"——每一层都在回答上一层遗留下来的一个具体故障。理解这一点，就理解了 AI Coding 工程的所有架构演进。

这一层不是替代上一层——而是在问：上一层依赖的事实源可靠吗？

6 层洋葱的每一层都在把"假设"换成"证据"——最终交付的不只是模型，而是 Agent 生存的世界。

六层对照表

每层面对的核心问题、依赖的事实源、典型失守——这是把全文 45 张幻灯片浓缩成一张表。

如何阅读这张表

• 每一行的"核心问题"都是上一行"典型失守"的工程回应——Prompt 出幻觉 → Context 喂事实；Context 喂不准 → Harness 给工具；Harness 单点不稳 → Loop 加反思。
• "事实源"列是该层引入的、上一层没有的工程组件——Context 加了向量库 + 检索器；Harness 加了工具 + MCP；Environment 加了 Sandbox + 审计。
• "典型失守"不是 Bug List，是上一层能力的天花板——只要上一层还在用它就不可能彻底解决；这就是为什么"加 Layer"而不是"修 Layer"。

三条工程洞察

1. 选模型不是工程所有"哪个 LLM 最强"的争论都在 Prompt 层。真正的工程从第 2 层（Context）开始——决定你的 Agent 能不能用、用得好不好，全部发生在第 2 层到第 6 层。
2. 每层的失守都是上一层的天花板所以"修复"是没用的，只能"补一层"。这解释了为什么 OpenAI / Anthropic / Google 都在同时投 6 个方向——它们不是重复造轮子，而是在按洋葱层同时推进。
3. 第 6 层决定了前 5 层能不能跑得稳Environment 是"Agent 生存的物理世界"——没有 Sandbox 隔离再聪明的 Harness 也会毁数据；没有 Trace 再好的 Prompt 也无法迭代。

洋葱不会自己剥开——是工程在替它长出新的一层。

参考与下一步行动

从读懂到上手——核心论文 / 项目 / 工具 + 8 条工程行动清单。所有引用都按六层分组，方便你按当前所处阶段针对性查阅。

6 阶段核心参考

行动清单（从今天开始）

8 条具体可落地的工程动作——每一条都对应六层洋葱中的一层。按编号顺序执行，从 Prompt（最易）到 Environment（最难）。

1. Prompt 拆分把 system prompt 拆成 角色 / 任务 / 约束 / 示例 / 格式 五段——分别维护、独立迭代、便于版本管理。
2. 私有数据走 RAG公司 wiki / 代码 / 合同绝不直接粘进 prompt——必须走 RAG，配合权限过滤 + 引用强制。
3. 工具调用进 MCP Server不写死 REST——用 MCP 协议把工具发布成标准化接口，模型自动发现、即插即用。
4. 长任务配 Checkpoint + Memory别裸跑 Loop——每步存档 + 短期 / 工作 / 长期记忆分层，否则崩一次就丢光。
5. prompt 改用 DSPy 编程化把"写 prompt"升级为"写程序"——模型升级自动重编，准备 GRPO 做数据驱动的 RL 微调。
6. 生产部署接 Langfuse / Phoenix看 Trace——每条 prompt / tool / 输出 / 耗时 / token 全记录，没观测就调不动。
7. Agent 操作全进 Sandbox不允许触 host——Docker / gVisor / Firecracker / E2B，按风险等级选隔离强度。
8. 每月跑 SWE-Bench / AgentBench防回归——把评测纳入 CI，跟踪 Prompt / Context / Harness 任一改动后的能力漂移。

三条执行原则

• 从 Prompt 开始，但停在 Environment· 个人 prototype 可以停在第 1 层；MVP 上线必须到第 3 层；商业产品必须到第 6 层——按风险与规模逐层补齐。
• 不要跳层· Context 缺失时上 Harness 等于让模型在真空中动手；Environment 没观测就上 Self-Harness 等于让 Agent 在黑暗中改自己。
• 每补一层就回看上一层· 加了 RAG 之后回头看 Prompt 是否还在做检索；加了 MCP 之后回头看 Prompt 是否还在硬编码工具名；加了 Langfuse 之后回头看 Prompt 是否还在承担调试职责。