產業分析-生成式AI正在翻轉電信產業
圖/freepik
生成式AI在全球電信產業應用佔比
AI熱潮帶動全球電信商陸續導入大語言模型,發展各項生成式AI應用服務,目前已陸續展開初期應用場景驗證。觀察臺灣電信商情況,業者將生成式AI服務以整體解決方案模式提供給企業用戶,帶動整體營收。
今年6月,韓國電信巨擘SK Telecom和Open AI合作,導入電信商專用的大型語言模型,以降低執行客戶諮詢服務、行銷業務等營運流程的執行時間,並藉由全球電信人工智慧聯盟(GTAA)平臺優勢,將旗下LLM與相關服務擴展至全球電信業。
也有少數業者與政府單位合作,建置超大規模資料中心與大語言模型。如日本主流電信商軟體銀橫(SoftBank)收購Sharp旗下堺工廠60% LCD面板廠區用地,將與經濟產業省共同打造亞洲最大規模資料中心,以提供軟銀自行開發日語專用大語言模型,也計劃將部分空間開放給日本研究機構、廠商等單位,開發生成式AI應用。
■助業者提升自動化網路效能、客服與數據分析效率
隨着5G RAN網路佔比逐年增加,電信商由生成式AI導入自動化網路,以緩解尖峰時段網路用量壅塞的當務之急,同時在離峰時段減少網路能源耗損。進行初期AI自動化網路驗證時,電信商會將特定範圍用戶在尖峰和離峰時段與網路用量間關係用作標記,進行生成式AI訓練,並於實際部署自動化網路時,由生成式AI依據訓練階段時用戶的網路使用習慣,在未有標記的情況下以推論模式,自動進行大規模網路用量分配。
電信商亦將生成式AI應用範圍延伸至改善內部客戶服務品質,以減少整體營運成本。像SK Telecom在7月攜手戴爾、Matrix等廠商,共同開發AI聊天機器人,減少30%的客服成本。
此外,以往電信業須透過數據分析人才,耗費大量時間將每用戶平均收入(ARPU)成長和衰退要素、部署基地臺資金流,以及手機庫存等數據分析結果從程式語言轉換爲文本。生成式AI則能以大數據圖表與解釋文本呈現分析結果,製圖時間僅需幾分鐘,大幅提升作業效率。
但電信商導入生成式AI仍面臨挑戰,包括前期導入大語言模型時,需投入鉅額資金處理龐大資料。爲讓模型內各參數間精準掌握指令,得由各領域專家針對其專業語意進行資料標註,讓大語言模型獲得高品質訓練資料,這項耗費鉅額人事成本,也增加整體開發時間。
除了人事成本,電信商導入生成式AI的最大開發支出爲建置自有超大規模資料中心,成本涵蓋土地購置、資料中心機櫃購置與託管服務、資料中心間互連光纖設備與纜線建置。由於所需經費龐大,導致全球中小型電信商在以ARPU爲首要考量下,將資本支出用於發展5G RAN、FWA等能在短期內帶來營收的基礎設施,而非將發展生成式AI服務列爲優先項目。
觀察全球大型電信商推出專用生成式AI服務情況,美國AT&T自2023年起與微軟合作發展電信商專用生成式AI-Ask AT&T,並結合內部訓練平臺,優化員工工作流程、擬定營運報告等。
亞洲方面,中國電信人工智慧研究院在7月推出星辰大模型,工程師輸入產品需求後可依模型內步驟完成軟體開發與測試,大幅縮短開發時間。這款大模型也整合至部份地區的智慧客服中,系統能駕馭中國30種方言,減輕客服人員工作量。
■臺灣三大電信商以低成本模式協助廠商導入生成式AI
今年6月,中華電信旗下中華電信研究院將自行研發的「值機應答助理Copilot」用於內部文字客服回覆,由值機員與用戶前後對話內容,透過生成式AI即時提供對應情境回覆。值得注意的是,中華電信研究院採用開源小量參數的大語言模型,降低廠商導入智慧客服成本,該語言模型亦能在推薦不正確時重新作訓練,將過去應答記錄作標註,減少AI訓練人員與費用成本。
遠傳電信攜手微軟推出生成式AI即時行動通訊語音翻譯,透過概念性驗證,由遠傳電信旗下核心網路結合微軟生成式AI語言服務,與微軟在北美環境連線,就中文對多國語言ㄔ行動雙向即時翻譯作服務驗證。遠傳熹信同樣有望將生成式AI翻?服務,以整體解決方案模式輸出給有需求的中小型企業,減少臺廠與全球廠商溝通成本。
臺灣大則推出「AI 2.0解決方案」,協助企業端用戶轉型,透過內建福爾摩沙大模型,將生成式服務聚焦在自動生成IT維運指南,協助維運人員立即檢索設備規格與維護紀錄等,同時亦能自動生成企劃文案、提供企業內部知識庫等。