标签: 深度学习
所有带有"深度学习"标签的文章。
-
知识蒸馏：为什么“小模型”可以向“大模型”学习？
发布于:从 Hinton 的经典 KD 讲起，拆解教师-学生框架、温度软化、Soft/Hard 双损失，梳理响应/特征/关系三类蒸馏的演进，并延伸到自蒸馏与大模型时代，最后用信息论视角统一蒸馏本质。
-
AdaIN：从“调整特征统计量”到任意风格迁移
发布于:从风格迁移的发展历史讲起，拆解 AdaIN（自适应实例归一化）的核心思想——风格即特征统计量，通过替换内容特征与风格特征的均值方差实现任意风格迁移；并延伸到 SE-COT、MR-DCoT 用文本驱动 AdaIN 做单域泛化的论文实战。