标签: 跨架构蒸馏
所有带有"跨架构蒸馏"标签的文章。
-
论文阅读:TimeDistill(KDD 2026)——跨架构蒸馏的长时序预测
发布于:TimeDistill(KDD 2026)论文精读笔记:跨架构蒸馏框架——用多尺度(时域下采样)与多周期(频域 FFT)双视角,在预测级与特征级双层面把 Transformer/CNN 教师的知识蒸馏进纯 MLP 学生,并给出 KD 约等于 mixup 增广的理论解释。
所有带有"跨架构蒸馏"标签的文章。
TimeDistill(KDD 2026)论文精读笔记:跨架构蒸馏框架——用多尺度(时域下采样)与多周期(频域 FFT)双视角,在预测级与特征级双层面把 Transformer/CNN 教师的知识蒸馏进纯 MLP 学生,并给出 KD 约等于 mixup 增广的理论解释。