基于潛在空間生成器的聯(lián)邦知識蒸餾
計(jì)算機(jī)應(yīng)用研究
頁數(shù): 7 2024-08-07
摘要: 用戶的異質(zhì)性對聯(lián)邦學(xué)習(xí)(FL)構(gòu)成了顯著挑戰(zhàn),這可能導(dǎo)致全局模型偏移和收斂速度緩慢。針對此問題,提出一種結(jié)合知識蒸餾和潛在空間生成器的聯(lián)邦學(xué)習(xí)方法(FedLSG)。該方法通過中央服務(wù)器學(xué)習(xí)一個(gè)搭載潛在空間生成器的生成模型,該模型能夠提取并模擬不同用戶端樣本標(biāo)簽的概率分布,從而生成更加豐富和多樣的偽樣本來指導(dǎo)用戶端模型的訓(xùn)練。這種方法旨在有效解決FL中的用戶異質(zhì)性問題。通過理論分... (共7頁)
開通會(huì)員,享受整站包年服務(wù)