大语言模型原理¶

概述¶

大语言模型（Large Language Model，LLM）是基于Transformer架构的大规模预训练模型，能够理解和生成自然语言，是ChatGPT、Claude等AI助手的核心技术。

核心概念¶

什么是LLM¶

# LLM的定义

大语言模型 = 大规模数据 + Transformer架构 + 预训练

# 关键特征

1. 参数规模：数十亿到数千亿参数
2. 训练数据：TB级别的文本数据
3. 预训练方式：自监督学习（预测下一个词）
4. 能力涌现：规模足够大时出现新能力

Transformer架构¶

# Transformer核心组件

1. 自注意力机制（Self-Attention）
   - 计算序列中每个位置与其他位置的关联
   - 并行计算，效率高

2. 位置编码（Positional Encoding）
   - 表示token在序列中的位置
   - 支持变长输入

3. 多头注意力（Multi-Head Attention）
   - 多个注意力头并行计算
   - 捕获不同维度的关系

4. 前馈网络（Feed-Forward Network）
   - 两层全连接网络
   - 非线性变换

注意力机制¶

# 注意力公式
Attention(Q, K, V) = softmax(QK^T / √d_k) V

# 其中：
# Q - 查询矩阵
# K - 键矩阵  
# V - 值矩阵
# d_k - 键的维度

LLM训练流程¶

1. 预训练（Pre-training）¶

# 预训练目标

自回归语言建模：
给定前文，预测下一个token

P(w_t | w_1, w_2, ..., w_{t-1})

# 训练数据
- Common Crawl（网页数据）
- Books（书籍）
- Wikipedia（维基百科）
- Code（代码）

2. 监督微调（SFT）¶

# 指令微调

输入：问题 + 指令
输出：期望的回答

示例：
{
    "instruction": "请总结以下文章",
    "input": "文章内容...",
    "output": "文章摘要..."
}

3. 人类反馈强化学习（RLHF）¶

# RLHF流程

1. 收集人类偏好数据
2. 训练奖励模型
3. 使用PPO算法优化策略

# 目标
让模型生成人类更喜欢的回答

主流LLM模型（2026年最新）¶

闭源模型¶

模型	公司	上下文	特点	API价格
GPT-5.5	OpenAI	105万	编码第一，性价比高	\(5/\)30
Claude Opus 4.7	Anthropic	200K	编程最强，Agent领先	\(15/\)75
Gemini 3.1 Pro	Google	200万	多模态，超长上下文	\(7/\)21
DeepSeek V4 Pro	DeepSeek	128K	开源最强，中文优化	低价

开源模型¶

模型	公司	参数量	特点
Llama 4	Meta	8B-405B	最受欢迎开源
Qwen 3	阿里	0.6B-235B	中文最强开源
DeepSeek V4	DeepSeek	671B（MoE）	性能接近闭源
Mistral Large	Mistral AI	123B	欧洲最强
Yi-Lightning	零一万物	-	超高速推理

模型选择（2026年）¶

graph TB
    A[你的需求] --> B{主要用途?}

    B -->|编程开发| C[Claude Opus 4.7]
    B -->|性价比| D[GPT-5.5]
    B -->|超长文档| E[Gemini 3.1 Pro]
    B -->|私有部署| F[开源模型]

    C --> C1[SWE-Bench 80.8%]
    D --> D1[Terminal-Bench 82.7%]
    E --> E1[200万token上下文]
    F --> F1[Llama 4 / Qwen 3]

    style A fill:#e3f2fd
    style C fill:#e8f5e9
    style D fill:#fff3e0
    style E fill:#f3e5f5

LLM能力¶

1. 文本生成¶

# 补全生成
prompt = "人工智能的未来是"
# 模型续写："光明的..."

# 对话生成
messages = [
    {"role": "user", "content": "你好"}
]
# 模型回复："你好！有什么可以帮你的吗？"

2. 文本理解¶

# 能力

- 语义理解：理解文本含义
- 情感分析：判断情感倾向
- 实体识别：提取关键信息
- 关系抽取：识别实体关系

3. 推理能力¶

# 类型

- 逻辑推理：演绎、归纳、类比
- 数学推理：计算、证明
- 常识推理：生活常识
- 代码推理：程序理解

4. 涌现能力¶

# 涌现能力（Emergent Abilities）

当模型规模达到一定程度时，出现的新能力：

- Few-shot学习：少量示例即可完成任务
- 思维链推理：分步推理复杂问题
- 代码生成：根据描述生成程序
- 多语言翻译：跨语言理解

LLM工作原理¶

Tokenization¶

# 文本分词

"我喜欢人工智能" 
→ ["我", "喜欢", "人工", "智能"]

英文：
"I love AI"
→ ["I", " love", " AI"]

自回归生成¶

# 生成过程

输入: "今天天气"
Step 1: P("真"|"今天天气") → "真"
Step 2: P("好"|"今天天气真") → "好"
Step 3: P("。"|"今天天气真好") → "。"

输出: "今天天气真好。"

采样策略¶

# 温度（Temperature）
- T=0：确定性输出（贪心）
- T=1：随机采样
- T>1：更随机
- T<1：更确定

# Top-K采样
从概率最高的K个token中采样

# Top-P采样（Nucleus）
从累积概率达到P的最小token集合中采样

模型评估¶

常用基准¶

基准	评估能力
MMLU	多任务语言理解
HumanEval	代码生成
GSM8K	数学推理
TruthfulQA	真实性
ARC	科学推理

评估方法¶

# 自动评估
- 与基准答案对比
- 机器学习评估器

# 人类评估
- 盲测对比
- 专家评分

# LLM评估
- GPT-5.5作为评委
- 交叉评估

LLM局限性¶

# 1. 幻觉（Hallucination）
生成不存在或错误的信息

# 2. 知识截止
无法获取最新信息

# 3. 推理限制
复杂数学/逻辑推理仍有困难

# 4. 上下文长度
输入长度有限制

# 5. 成本
训练和推理成本高

学习资源¶

# 论文
- Attention Is All You Need（Transformer）
- BERT: Pre-training of Deep Bidirectional Transformers
- GPT-3: Language Models are Few-Shot Learners
- Llama 2: Open Foundation and Fine-Tuned Chat Models

# 课程
- Stanford CS224N: NLP with Deep Learning
- Andrej Karpathy: Let's build GPT from scratch

下一步学习¶

模型微调教程 - 微调开源模型
模型量化部署教程 - 部署优化
RAG检索增强生成教程 - 扩展模型知识