Skip to content

知识体系总览

💡

理解大模型不是追逐最新的 benchmark 分数,而是建立从概率分布到涌现能力、从 Transformer 架构到 Agent 范式的第一性认知——知其然,更知其所以然。

原理优先——从神经网络的基本单元出发,逐层拆解 Transformer 的自注意力机制、Token 化与 Embedding 的本质,在底层建立对 LLM 的深刻直觉;

体系闭环——从基础概念到核心机制,从训练推理到上层应用,沿着"认知 → 训练 → 推理 → 应用 → 安全"的链路,构建完整的 LLM 知识拼图。

大模型基础认知体系:基础入门 → 核心概念 → 训练与优化 → 推理与生成 → 应用技术 → Agent → 多模态 → 评估与安全
大模型基础认知体系:基础入门 → 核心概念 → 训练与优化 → 推理与生成 → 应用技术 → Agent → 多模态 → 评估与安全
ℹ️从底层原理到上层应用,层层递进
本专栏按照「基础入门 → 核心概念 → 训练与优化 → 推理与生成 → 应用技术 → Agent → 多模态 → 评估与安全」八层架构组织,从 AI 基本概念与神经网络起步,逐步深入到 Transformer 架构、Token/Embedding 核心机制、训练与推理技术,再到 RAG、Function Calling、Agent 等上层应用实践,最后覆盖多模态拓展与安全对齐——每一层既是下一层的基础,也承载着独立的知识价值。

精选专题

🎯

推理与生成

推理与解码策略

系统拆解 LLM 推理时的核心解码策略:贪心解码与 Beam Search 的确定性路线、Top-k 与 Top-p 采样的随机性控制、温度系数对概率分布的调节机制,以及对比搜索等混合策略的设计思路与选型参考。

阅读

Prompt Engineering

全面解析 Prompt Engineering 方法论:从 System/User Prompt 分层设计到 Few-shot/Zero-shot 示例策略,涵盖 Chain-of-Thought 思维链、角色设定、输出格式控制等核心技巧,以及 Prompt 模板化与迭代优化的工程实践。

阅读

Context Engineering:上下文工程

阐述 Prompt Engineering 到 Context Engineering 的范式演进:从单次指令到为 LLM 构建包含 RAG 知识库、对话记忆、工具调用能力的持久认知环境,涵盖上下文窗口管理、长文本处理策略与多轮对话状态维护等工程实践。

阅读

温度系数与Top-p:掌控大模型的创造力开关

深度解读大模型 API 最核心的两个采样参数:Temperature 通过缩放 logits 调节概率分布陡峭度(低温保守、高温奔放),Top-p(核采样)以动态累积概率阈值裁剪长尾候选集。涵盖数学原理、交互效应、场景选型与调参最佳实践。

阅读

大模型推理部署:硬件、引擎、并行策略与连续批处理

系统梳理大模型推理部署的完整技术栈,涵盖GPU/NPU/TPU硬件选型与显存规划、vLLM/SGLang/TensorRT-LLM/llama.cpp/Ollama五大推理引擎对比、张量/流水线/数据/专家四种并行策略,以及Continuous Batching的调度机制与GPU利用率优化实践。

阅读