當前位置:首頁 > 科技文檔 > 教育理論與教育管理 > 正文

多層級特征融合與雙教師協(xié)作的知識蒸餾

中國圖象圖形學報 頁數(shù): 16 2024-12-16
摘要: 目的 知識蒸餾旨在不影響原始模型性能的前提下,將一個性能強大且參數(shù)量也較大的教師模型的知識遷移到一個輕量級的學生模型上。在圖像分類領域,以往的蒸餾方法大多聚焦于全局信息的提取而忽略了局部信息的重要性。并且這些方法多是圍繞單教師架構蒸餾,忽視了學生可以同時向多名教師學習的潛力。因此,提出了一種融合全局和局部特征的雙教師協(xié)作知識蒸餾框架。方法 首先隨機初始化一個教師(臨時教師)與學... (共16頁)

開通會員,享受整站包年服務立即開通 >