南威軟件集團舉辦基於華爲AI芯片的大模型應用研發技術分享會，洞見大模型未來，引領智慧城市生態

在人工智能技術不斷突破的今天，大模型應用正成爲推動智慧城市發展的關鍵因素。南威軟件集團致力於探索大模型技術在多領域的應用，爲豐富集團技術文化、促進知識交流、激發創新思維，並共同探討技術發展趨勢以及解決實際工作中的技術難題，集團技術委員會於9月27日邀請人工智能與數據服務業務羣自然語言部算法架構師張旭東作爲主講嘉賓，舉辦一場基於華爲AI芯片的大模型應用研發技術分享會。此次分享會匯聚集團各業務羣技術人才等線上線下近百餘人，共同參與探討技術發展的新趨勢，攜手解決實際工作中的技術挑戰，推動集團技術實力邁向新高度。

會上，張旭東首先對AI芯片架構進行了精煉的介紹，着重強調了GPU在處理多任務並行計算方面的優勢。接着，他通過對比NVIDIA與華爲昇騰AI芯片的性能參數，利用圖表直觀地展示了兩者的差異，並結合實際案例，講解了如何根據大模型訓練需求選擇合適的硬件配置並如何提高芯片的算力利用率。隨後，他詳細闡述了華爲軟硬件的技術棧，其中包括CANN、Mindspore訓練框架、MindIE推理引擎以MindInsight可視化開發工具等的原理和使用方法，深入淺出地分析了基於華爲AI芯片的底層架構和開發流程。

張旭東作主題分享

討論環節中，張旭東針對國產算力的需求，分享了華爲昇騰AI芯片的優勢，並提供了基於300IDuo卡的推理服務在智能閱卷系統中的應用案例，充分展示了華爲昇騰AI芯片在實際應用中的高效性能。目前南威軟件多款AI相關產品已深度融合華爲昇騰AI芯片平臺，包括南威白澤大模型的訓練平臺、南威白澤啓元AI開發平臺、南威白澤文墨智能寫作平臺、南威白澤對話管理平臺、南威凌雲智搜、南威獬豸AI閱卷系統、南威知識服務平臺等，結合華爲昇騰AI芯片強大的算力和技術能力，服務於算法落地的應用中，以更好地滿足客戶對高併發和低延遲的需求。

本次分享會，爲集團相關行業專家和技術人員提供了一個深入瞭解華爲昇騰AI芯片平臺的寶貴機會，同時也爲集團在智慧城市領域的未來發展提供了新的思路和方向。在數字化轉型的宏偉藍圖中，南威軟件集團將繼續攜手行業合作伙伴，共同探索AI技術的無限可能，爲構建智能化的未來社會貢獻核心力量。