AI 应用开发
到底在写哪一部分？

一句话答案

在写"业务编排 + 领域知识 + 工具集成"——不是框架。

# 这些都不是壁垒
LangChain :  "开源"
AutoGen   :  "开源"
CrewAI    :  "开源"
Dify / Coze : "可视化"

# 脚手架人人能用，不构成差异。

真正"值钱"的开发，在写业务编排、领域知识、工具集成——把这三者串成"通用 LLM 做不到、但你的产品能做到"的东西。

LLM 应用的五层结构

从底层到上层，越往上越接近"开发真正的内容"。把整套 stack 摊开看，差异和壁垒到底在哪儿就清楚了。

• L1 模型层 · 调用 GPT / Claude / Gemini API。完全同质化，谁都能调。
• L2 框架层 · LangChain / AutoGen / CrewAI / Dify / Coze。开源成熟，人人能用。
• L3 编排层 · 任务拆解、工具调用顺序、错误处理、人机协作。核心差异所在。
• L4 知识 / 数据层 · RAG、向量库、领域文档、记忆系统。强壁垒，需要长期积累。
• L5 交互层 · 前端 chat UI、结果渲染、权限、计费。用户感知，但护城河浅。

这五层里，L1 和 L2 完全不是壁垒——任何工程师几天就能搭起来。真正决定产品能不能活下来的是 L3 编排和 L4 知识。一家 LLM 应用公司招人，写的主要就是这两层 + L5 交互。

具体在写什么？

案例：做一个「AI 合同审查 SaaS」。把工程师一周的工作量按方向拆开，时间分配大致是这样的。

注意看这几行的占比：框架 / 模型调用本身几乎不占时间，加起来不超过 5%。时间主要砸在业务编排、工具定义、Prompt 工程、领域 RAG、评测体系这些"非通用"的事情上。

一个合同审查 SaaS 团队的真实状态：

• 30% 的代码是编排——哪些条款并行、哪些串行、错误如何兜底、人工何时介入
• 20% 的代码是工具/MCP——查工商、OCR 扫描、读 PDF、对比历史合同
• 15% 的代码是 Prompt/Skill——2000 字 system prompt + JSON schema + 少样本
• 20% 的代码是数据/RAG——历史合同嵌入、引用标准条款、记忆隔离
• 10% 的代码是评测体系——100 份合同准确率 85% 还是 95%
• 5% 的代码是前端包装——流式渲染、文件上传、多轮上下文

三大真正"开发"内容

不是智能体，不是 skill，不是前端——是这三件事。

1. 业务流程的"非智能"部分数据清洗、规则判断、数据库操作——LLM 干不了，必须写代码。
2. 领域知识的形式化把"法律审查""财务分析""代码评审"这些模糊概念，拆成 LLM 能稳定执行的步骤。
3. 让结果可信的工程评测、监控、降级、人工兜底——把"AI 抽风"的概率压到业务能接受的水平。

这三件事看着朴素，做起来每一件都要啃几个月。它们不会出现在任何一个"教你 5 分钟搭一个 AI 应用"的教程里，但任何一家真正在交付价值的 AI 应用公司，都至少有一个 team 专门做其中一件。

一个判断标准

拿这个尺子量一下你的护城河——很残酷，但很准。

把所有产品放上天平，一边是"5 分钟能复现 80%"，另一边是"依赖私有数据 / 专有工具链 / 特定工作流 / 长期用户上下文"。绝大多数号称"AI 应用"的项目都偏向左边。

"如果你的产品本质是一个 prompt + 一个 chat UI，那它不是产品，是 demo。"

这句话听起来刻薄，但放在 2026 年的市场里再准确不过——OpenAI / Anthropic / Google 任何一个官方出品的原生体验，都在快速抹平"prompt + chat UI"这一类产品的空间。

什么不算应用开发

市场上 80% 的"AI 项目"掉进了这三个坑。每一个都长得像产品，但都不是。

1. 在 AutoGen 上搭一个"多 agent 互相聊天"的 demo不是应用，是玩具——没有真实场景、没有用户上下文、没有商业闭环。
2. 把 LangChain 文档抄一遍做个 chatbot没有领域知识、没有私有数据、没有工具链——这不是开发，是复制粘贴。
3. 套个 ChatGPT UI 壳卖"AI 助手"模型能力在指数级变强，UI 壳没有护城河。OpenAI 出一个官方 App，你就没了。→ 半年内必死

这三个反例的共同点：没有任何一件上面说的"领域化"工作。它们复用了一切公地资源，但没在任何一个垂直维度上真正沉下去。

行业真相

2024–2026 LLM 应用的核心矛盾：

模型能力在指数级变强，应用层护城河在被快速侵蚀。

这意味着单纯靠"用 LLM 做一个聊天框"的项目，几乎注定被模型厂商一次版本更新就吞掉。头部公司正在拼命做三件事来应对：

• 私有数据飞轮 · 用户用得越多 → 数据越好 → 模型越准 → 体验越好。这是模型厂商拿不走的资产。
• 深度工作流嵌入 · 嵌进 Notion / Salesforce / 飞书，不是单独一个 chat。用户离开你的成本就是切换工具的成本。
• 垂直工具链 · 自研 OCR、检索器、评测体系——通用工具卷不过大厂，但垂直领域里你比他们懂。

这波 AI 公司招什么样的人？

把上面所有观察收拢成一句话：

不是 prompt 工程师，而是懂业务的全栈工程师 + 数据工程师。

这三项放在一起，描述的是同一种人：既懂业务又会写代码、还能判断数据价值的复合型工程师。他们不是 prompt 调参员，也不是单纯的算法研究员，更不是只写 CRUD 的后端——他们是把 LLM 这种"通用能力"嵌入到具体业务里、让它产生 10× 价值的人。

回到最初的问题：AI 应用开发到底在写什么？

答案很朴素——在写把通用 LLM 变成"只有你能做、别人做不来"这件事的所有工程。框架会越来越像、API 会越来越便宜、模型会越来越强，但业务编排、领域知识、工具集成这三件事，永远得由懂你业务的人一行一行写出来。

这是工程。这是产品。这也是这门生意唯一值得做的部分。