上海軟件中心獲得發(fā)明專(zhuān)利“一種圖像分類(lèi)模型剪枝方法、裝置、電子設備及存儲介質(zhì)”

         2023年10月27日，上海軟件中心獲得“一種圖像分類(lèi)模型剪枝方法、裝置、電子設備及存儲介質(zhì)”的專(zhuān)利授權，專(zhuān)利號為ZL 2022 1 1269688.4。

          深度神經(jīng)網(wǎng)絡(luò )模型在諸多人工智能領(lǐng)域，例如計算機視覺(jué)、自然語(yǔ)言處理、強化學(xué)習等都有著(zhù)極佳的表現效果。隨著(zhù)深度學(xué)習算法的不斷改進(jìn)，深度神經(jīng)網(wǎng)絡(luò )模型的深度也在不斷上升。但隨之帶來(lái)的就是上千萬(wàn)甚至數億的參數量，在實(shí)際訓練過(guò)程中，對算力、存儲、延遲等都提出了一個(gè)巨大的挑戰，大模型主要部署在后端高算力服務(wù)器上，而目前邊緣計算的需求越來(lái)越多，冗余的參數量及模型大小會(huì )造成發(fā)熱、空間不足等問(wèn)題?；谏疃葘W(xué)習的圖像分類(lèi)模型可以應用在諸多下游任務(wù)上，但是目前圖像分類(lèi)模型常部署在智能終端上，這需要其具有低存儲、高性能、低能耗等特點(diǎn)。本發(fā)明提供了一種適用于圖像分類(lèi)便攜式智能終端的圖像分類(lèi)模型剪枝方法、裝置、電子設備及存儲介質(zhì)，能夠提高圖像分類(lèi)模型訓練性能和訓練效率。

         本發(fā)明公開(kāi)了一種圖像分類(lèi)模型剪枝方法、裝置、電子設備及存儲介質(zhì)，涉及人工智能領(lǐng)域，該方法包括獲取訓練T個(gè)周期后的待剪枝的圖像分類(lèi)模型的參數序列；參數序列包括T個(gè)網(wǎng)絡(luò )參數集合；網(wǎng)絡(luò )參數集合由訓練一個(gè)周期后的待剪枝的圖像分類(lèi)模型的網(wǎng)絡(luò )參數組成；利用累計變化算子對參數序列中的網(wǎng)絡(luò )參數變化進(jìn)行統計，得到T個(gè)周期內網(wǎng)絡(luò )參數的累計變化數組；根據累計變化數組和參數序列對圖像分類(lèi)模型進(jìn)行參數剪枝或參數凍結，得到稀疏神經(jīng)網(wǎng)絡(luò )模型；將稀疏神經(jīng)網(wǎng)絡(luò )模型部署至圖像分類(lèi)便攜式智能終端。本發(fā)明能夠提高圖像分類(lèi)模型訓練性能和訓練效率。