中國電信申請分佈式訓練微批量數據確定方法專利,保證模型的性能和訓練情況
金融界2024年9月30日消息,國家知識產權局信息顯示,中國電信股份有限公司技術創新中心、中國電信股份有限公司申請一項名爲“分佈式訓練微批量數據確定方法、裝置、設備和介質”的專利,公開號 CN 118709752 A,申請日期爲2024年6月。
專利摘要顯示,本公開提供了一種分佈式訓練微批量數據確定方法、裝置、設備和介質,涉及新興信息技術領域例如,該方法包括:基於預先確定的微批量數據大小將訓練數據集劃分爲多個訓練數據子集,以使計算相應的梯度值;接收預設數量的訓練節點返回的梯度值,從各個訓練節點中篩選出目標訓練節點;判斷預設時長內是否接收到目標訓練節點返回的滿足預設條件的梯度值;將接收到的全部梯度值、接收全部梯度值所耗費的總時長以及各個訓練節點的模型性能參數輸入至預先訓練的神經網絡模型,輸出各個訓練節點更新後的的模型性能參數,最終確定各個訓練節點對應的微批量數據大小。本公開能夠合理劃分訓練數據的微批量大小,以保證模型的性能和訓練情況。
本文源自:金融界
作者:情報員