聯發科攜手羣聯 共同推動生成式 AI 運算與服務
手機晶片大廠聯發科(2454)與NAND Flash控制晶片與模組大廠羣聯於15日宣佈策略聯盟,羣聯的AI運算服務「aiDAPTIV+」將與聯發科旗下的生成式AI服務平臺「MediaTek DaVinci」深度整合,共同推動生成式AI運算與服務。
「MediaTek DaVinci」平臺是聯發科基於GAI服務框架(GAISF)打造的一款生成式AI服務開放式平臺,開發者可在平臺上開發各類實用的插件,提升使用者的互動體驗。
至於羣聯推出的「aiDAPTIV+」服務方案,通過其SSD整合AI運算架構,可將大型AI模型進行結構性拆分,並與SSD協同運行,可大幅降低AI基礎建設的硬體成本,還提高運算效率,使得在有限的GPU與DRAM資源下,也能訓練大型AI模型。
雙方預期,合作效益包括創新的AI運算架構,「aiDAPTIV+」的模型結構分拆,並與SSD協同運行技術,可支援更大型AI模型的訓練,並可降低AI服務的硬體建構成本,還提升「MediaTek DaVinci」平臺的擴展性,結合「aiDAPTIV+」後,將爲開發者提供更多元客製化插件的開發可能性,同時,也能加速部署地端AI應用。
雙方也強調,透過「aiDAPTIV+」技術方案與「MediaTek DaVinci」平臺的合作,AI伺服器廠商將能提供完整的地端軟硬體整合方案,使AI伺服器產品更具競爭力,爲終端客戶提供一站式的AI服務。