OPPO 申請模型量化方法專利,有效降低乘法器的計算開銷
金融界 2024 年 12 月 12 日消息,國家知識產權局信息顯示,OPPO 廣東移動通信有限公司申請一項名爲“模型量化方法、裝置、計算機設備及存儲介質”的專利,公開號 CN 119107479 A,申請日期爲 2023 年 6 月。
專利摘要顯示,本申請提供了一種模型量化方法、裝置、計算機設備及存儲介質,屬於計算機技術領域。該方法包括:對於圖像分類模型的任一網絡層,在網絡層的權重和輸入圖像在網絡層的輸入特徵值呈長尾分佈的情況下,基於第一量化位寬,分別對權重和輸入特徵值進行量化,得到網絡層的第一量化權重和第一量化特徵值;在第一量化位寬不小於第二量化位寬的情況下,分別對第一量化權重和第一量化特徵值進行截斷,得到長度爲第二量化位寬的第二量化權重和第二量化特徵值;對第二量化權重和第二量化特徵值進行加權,得到網絡層的輸出特徵值。上述方案能夠在保持第二量化權重和第二量化特徵值較大數值表示範圍和較高量化精度的情況下,有效降低乘法器的計算開銷。
本文源自:金融界
作者:情報員