从 AI 基础概念出发,逐步深入模型原理,最终掌握大模型工程化部署的核心能力。每个模块包含理论讲解、架构图解、代码示例和自测题。
建立 AI 与深度学习核心概念,掌握 Transformer 架构
AI发展史,LLM定义,GPT演进路线,大模型应用场景全景图。
线性代数(矩阵/张量),概率论(分布/Bayes),微积分(梯度/链式法则),信息论基础。
监督/无监督/强化学习,训练验证测试流程,过拟合与正则化,评估指标。
神经网络,前向/反向传播,激活函数(ReLU/GELU),优化器(SGD/Adam)。
分词,词向量(Word2Vec/GloVe),语言模型演进(n-gram→NNLM→Transformer)。
自注意力机制,编码器-解码器结构,位置编码,LayerNorm与残差连接。
图文对齐(CLIP),Vision Transformer,跨模态表示,图像编码器。
GPU架构 vs CPU,CUDA编程模型,显存层级,NVIDIA产品线(H100/H20/L20)。
深入大模型预训练、架构设计、分布式训练全流程
预训练目标(MLM/CLM),自回归vs自编码,数据配比策略,训练稳定性。
BPE/SentencePiece/Unigram,词表大小权衡,多语言处理,特殊Token。
MHA/MQA/GQA对比,Flash Attention,稀疏注意力,滑动窗口注意力。
GPT/BERT/T5/LLaMA/Qwen/DeepSeek 架构对比,RMSNorm/SwiGLU/RoPE。
规模法则(Kaplan/Chinchilla),涌现能力,计算最优策略,过训练。
数据清洗流程,去重(MinHash),质量过滤,合成数据生成。
数据并行/模型并行/流水线并行,ZeRO(ZeRO-1/2/3),Megatron-LM。
MoE原理与路由机制,Top-K路由,负载均衡,DeepSeek MoE架构。
掌握 RAG、微调、推理优化、Agent 等 LLM 应用核心技术
提示工程原则,CoT思维链,Few-shot Learning,结构化输出提示。
Embedding模型,向量数据库(FAISS/Milvus),RAG全流程,Reranking优化。
SFT全流程,LoRA/QLoRA低秩适配,数据准备,灾难性遗忘。
INT8/INT4量化,GPTQ/AWQ/GGUF,知识蒸馏,结构化剪枝。
vLLM架构,KV Cache,PagedAttention,Continuous Batching,投机解码。
Function Calling,LangChain/LlamaIndex,多Agent协作,MCP协议。
LLaVA/GPT-4V架构,文生图(SD/DALL-E),文生视频(Sora),统一接口。
RLHF/DPO/PPO对齐方法,越狱攻击与防护,内容安全过滤,可解释性。
从部署运维到产品化,构建完整的 AI 工程能力
GPU选型策略,TGI/vLLM/SGLang部署,负载均衡,弹性伸缩,灰度发布。
评测体系设计,MMLU/HumanEval/GSM8K,LLM-as-Judge,人工评估流程。
金融/医疗/法律/教育/客服场景方案,私有化部署,知识库构建。
Token计费模型,GPU成本优化,推理成本分析,TCO计算框架。
HuggingFace/ModelScope生态,开源vs闭源选型,许可证合规,社区贡献。
训练集群架构,推理集群设计,存储(并行文件系统),网络(RDMA/RoCE)。
AI Native产品设计,用户场景挖掘,数据飞轮,PMF验证,增长策略。
o1推理模型,Agentic AI,World Model,具身智能,AI科学发现。
为什么做这个平台,以及如何使用它
后端工程师转型 AI 方向、算法工程师补齐工程能力、产品经理理解大模型技术边界、技术管理者做 AI 战略决策。
按阶段顺序学习,每个模块先看理论讲解,再理解架构图,最后做自测题验证。完成动手实验巩固知识,结合行业案例理解落地。
厂商中立的技术讲解 + 腾讯云/开源工具实战示例。不吹概念,讲清楚每个技术的原理、适用场景和工程权衡。
每个阶段都有明确的能力跃迁标志:第一阶段能理解论文,第二阶段能复现模型,第三阶段能构建应用,第四阶段能落地部署。