生成式 AI 的名词很多,但它们并不处于同一层。把模型、产品、知识、工具和执行系统混在一起,就很容易出现“用了大模型是否就等于有 Agent”“接了 MCP 是否就自动拥有知识库”这类误解。
本文先建立一张稳定的分层地图,再讨论每个概念解决什么问题。
先看完整分层
1 | 用户与业务场景 |
上层描述“用户最终使用什么”,下层描述“系统依靠什么运行”。同一个模型可以被不同应用使用,同一个应用也可以按任务选择不同模型。
基础概念的包含关系
| 概念 | 准确定义 | 通俗理解 |
|---|---|---|
| 人工智能 AI | 让机器完成感知、预测、生成、规划等智能任务的总称 | 最大范围 |
| 机器学习 ML | 从数据中学习规律,而不是完全依赖人工规则 | AI 的一种实现方法 |
| 深度学习 DL | 使用多层神经网络学习复杂表示 | 机器学习的一个分支 |
| 基础模型 | 用大规模数据训练、可适配多类任务的模型 | 通用能力底座 |
| 生成式 AI | 根据输入生成文字、代码、图片、音频或视频 | 负责“生成新内容” |
| 大语言模型 LLM | 以语言理解与生成为核心能力的模型 | 生成式 AI 的重要类型 |
| 多模态模型 | 能处理文字、图像、音频等多种信息形态 | 不只读文字 |
| Transformer | 现代语言模型常用的神经网络架构 | 模型结构,不是产品 |
2017 年的 Transformer 论文提出了基于注意力机制的架构。它影响了后续大量语言和多模态模型,但“Transformer”“LLM”和“聊天产品”不能画等号。
模型、产品和 Agent 的区别
模型负责生成和推理
模型接收输入并返回输出。它可以解释代码、提取信息或生成方案,但单独的模型通常不会自行读取你的仓库、操作数据库或运行测试。
产品负责提供使用体验
聊天网页、IDE 插件、桌面应用和 API 平台都属于产品或应用层。它们负责账号、界面、文件上传、上下文管理和工具集成。
Agent 负责围绕目标行动
Agent 不是某一种模型,而是一种系统运行方式:
1 | 理解目标 |
工程上可以近似写成:
1 | Agent = 模型 + 指令 + Context + Tool + 执行循环 + 权限与停止条件 |
Prompt、Context、Memory 的区别
| 概念 | 回答的问题 | 典型内容 |
|---|---|---|
| Prompt | 这一次要做什么 | 当前问题、目标、格式要求 |
| Context | 模型这一次能看到什么 | Prompt、对话、代码、检索片段、工具结果 |
| Memory | 哪些信息需要跨会话保留 | 用户偏好、长期事实、历史摘要 |
Context 有容量和成本边界。把全部代码和全部文档一次性塞进去,既昂贵,也会增加噪声。RAG 的价值之一,就是只把当前问题需要的证据放入 Context。
RAG、微调与 Tool 的区别
| 需求 | 更适合的方式 | 原因 |
|---|---|---|
| 查询不断更新的公司制度 | RAG | 每次从外部知识中检索证据 |
| 固定输出格式或分类习惯 | Prompt、结构化输出或微调 | 重点是改变输出行为 |
| 查询订单实时状态 | Tool / API | 需要读取真实业务系统 |
| 创建工单或发送消息 | Tool / API | 需要执行有副作用的动作 |
| 根据内部文档回答并创建工单 | RAG + Tool + Agent | 同时需要知识、动作和流程 |
RAG 不会改变模型参数;微调也不适合保存经常更新的事实。模型更不能代替数据库成为业务事实源。
一次知识助手请求发生了什么
1 | 用户问题 |
生产系统还需要记录检索结果、模型版本、工具调用、耗时、费用和用户反馈。HTTP 返回 200 只能证明请求完成,不能证明答案正确。
最容易混淆的边界
- 大模型不是数据库,不能保证记住最新且精确的业务事实。
- Agent 不是普通聊天界面的别名,它必须具备目标、动作和反馈循环。
- MCP 是连接协议,不是模型、Agent 或知识库。
- RAG 是检索并增强生成的方法,不一定要求专用向量数据库。
- Embedding 模型负责把内容变成向量,聊天模型负责组织自然语言答案。
- 更强的模型不能替代权限、测试、审计和人工确认。
一句话记忆
1 | 模型负责理解与生成,Context 提供当前信息, |