标签: Transformer

所有带有"Transformer"标签的文章。

• Vision Transformer（ViT）：当 Transformer 开始「看」图片

  发布于: 31 8, 2026

  整理自 B 站《15分钟认识ViT》等视频与知乎资料：从「图片能不能变成 Token」出发，串讲 Patch、Patch Embedding、CLS、位置编码与 Transformer Encoder 的完整流程，对比 CNN 的归纳偏置，并给出 DeiT、Swin 等改进路线。

• 学习笔记：解剖大型语言模型 (Dissecting Large Language Models)

  发布于: 16 8, 2026

  整理自生成式 AI 公开课的学习笔记：从 Token ID 到 Logits 的宏观计算流讲起，拆解隐藏表征分析与 Logit Lens、Self-Attention 机制、FFN 记忆网络与位置编码，并用 Colab 实作解剖 LLaMA-3.2 与 Gemma-2。