生成式 AI 的名词很多,但它们并不处于同一层。把模型、产品、知识、工具和执行系统混在一起,就很容易出现“用了大模型是否就等于有 Agent”“接了 MCP 是否就自动拥有知识库”这类误解。

本文先建立一张稳定的分层地图,再讨论每个概念解决什么问题。

先看完整分层

1
2
3
4
5
6
7
8
9
10
11
用户与业务场景
↓
AI 应用:聊天助手、编程助手、知识助手
↓
Agent / Workflow:组织步骤和工具调用
↓
Context:Prompt、历史消息、RAG 证据、工具结果
↓
模型:LLM、多模态模型、Embedding 模型
↓
基础设施:模型 API、向量索引、数据库、权限、监控

上层描述“用户最终使用什么”,下层描述“系统依靠什么运行”。同一个模型可以被不同应用使用,同一个应用也可以按任务选择不同模型。

基础概念的包含关系

概念 准确定义 通俗理解
人工智能 AI 让机器完成感知、预测、生成、规划等智能任务的总称 最大范围
机器学习 ML 从数据中学习规律,而不是完全依赖人工规则 AI 的一种实现方法
深度学习 DL 使用多层神经网络学习复杂表示 机器学习的一个分支
基础模型 用大规模数据训练、可适配多类任务的模型 通用能力底座
生成式 AI 根据输入生成文字、代码、图片、音频或视频 负责“生成新内容”
大语言模型 LLM 以语言理解与生成为核心能力的模型 生成式 AI 的重要类型
多模态模型 能处理文字、图像、音频等多种信息形态 不只读文字
Transformer 现代语言模型常用的神经网络架构 模型结构,不是产品

2017 年的 Transformer 论文提出了基于注意力机制的架构。它影响了后续大量语言和多模态模型,但“Transformer”“LLM”和“聊天产品”不能画等号。

模型、产品和 Agent 的区别

模型负责生成和推理

模型接收输入并返回输出。它可以解释代码、提取信息或生成方案,但单独的模型通常不会自行读取你的仓库、操作数据库或运行测试。

产品负责提供使用体验

聊天网页、IDE 插件、桌面应用和 API 平台都属于产品或应用层。它们负责账号、界面、文件上传、上下文管理和工具集成。

Agent 负责围绕目标行动

Agent 不是某一种模型,而是一种系统运行方式:

1
2
3
4
5
6
理解目标
→ 观察当前状态
→ 选择下一步动作
→ 调用工具
→ 读取结果
→ 判断继续、重试还是结束

工程上可以近似写成:

1
Agent = 模型 + 指令 + Context + Tool + 执行循环 + 权限与停止条件

Prompt、Context、Memory 的区别

概念 回答的问题 典型内容
Prompt 这一次要做什么 当前问题、目标、格式要求
Context 模型这一次能看到什么 Prompt、对话、代码、检索片段、工具结果
Memory 哪些信息需要跨会话保留 用户偏好、长期事实、历史摘要

Context 有容量和成本边界。把全部代码和全部文档一次性塞进去,既昂贵,也会增加噪声。RAG 的价值之一,就是只把当前问题需要的证据放入 Context。

RAG、微调与 Tool 的区别

需求 更适合的方式 原因
查询不断更新的公司制度 RAG 每次从外部知识中检索证据
固定输出格式或分类习惯 Prompt、结构化输出或微调 重点是改变输出行为
查询订单实时状态 Tool / API 需要读取真实业务系统
创建工单或发送消息 Tool / API 需要执行有副作用的动作
根据内部文档回答并创建工单 RAG + Tool + Agent 同时需要知识、动作和流程

RAG 不会改变模型参数;微调也不适合保存经常更新的事实。模型更不能代替数据库成为业务事实源。

一次知识助手请求发生了什么

1
2
3
4
5
6
7
用户问题
→ 应用完成身份与租户校验
→ 检索系统找到有权限查看的文档片段
→ 片段、来源与问题组成 Context
→ 模型生成答案或请求调用 Tool
→ 应用校验 Tool 参数和权限
→ 返回答案、引用与执行结果

生产系统还需要记录检索结果、模型版本、工具调用、耗时、费用和用户反馈。HTTP 返回 200 只能证明请求完成,不能证明答案正确。

最容易混淆的边界

  • 大模型不是数据库,不能保证记住最新且精确的业务事实。
  • Agent 不是普通聊天界面的别名,它必须具备目标、动作和反馈循环。
  • MCP 是连接协议,不是模型、Agent 或知识库。
  • RAG 是检索并增强生成的方法,不一定要求专用向量数据库。
  • Embedding 模型负责把内容变成向量,聊天模型负责组织自然语言答案。
  • 更强的模型不能替代权限、测试、审计和人工确认。

一句话记忆

1
2
模型负责理解与生成,Context 提供当前信息,
RAG 寻找证据,Tool 执行动作,Agent 组织全过程。

进一步阅读:RAG 原始论文、MCP 核心架构。

站内搜索

没有找到内容!