基于多面體模型的矩陣乘法自動混合精度優(yōu)化

摘要： 混合精度是計算機(jī)中的一種數(shù)值計算技術(shù)，通過將計算中的部分?jǐn)?shù)據(jù)類型從高精度轉(zhuǎn)換成低精度來提高計算效率。矩陣乘法在計算機(jī)科學(xué)和數(shù)學(xué)中有著重要而廣泛的應(yīng)用，在矩陣乘法中使用混合精度技術(shù)來加速計算過程是一項(xiàng)很有挑戰(zhàn)性的工作?，F(xiàn)有的混合精度優(yōu)化存在一些問題，例如存儲開銷大，必須在特定的硬件單元上實(shí)現(xiàn)，限制了模型或算法的部署選項(xiàng)并降低了其可移植性。針對上述問題，提出并實(shí)現(xiàn)了基于多面體模型的... （共10頁）