終端AI時代來臨 NPU架構AI晶片崛起

AI發展日新月異(AI生成圖)

AI不斷演進(示意圖:shutterstock/達志)

耐能智慧自2015年成立,迄今已經獲得了超過1.9億美元融資。創辦人劉峻誠說,當初耐能剛宣佈要推出AI晶片時,大家都笑他,但如今耐能智慧的晶片,效能卻可以跟世界一級大廠平起平坐。耐能EDGE GPT解決方案產品憑藉其強大的算力、優異的性能表現、高效的功耗控制、便捷的部署以及可靠的訊息安全保障等特性,在學界與業界都樹立技術領先的市場標竿和典範。

長期以來在人工智慧、機器學習等前沿技術領域保持全球領先的史丹佛大學,今年也正式宣佈採購耐能的EDGE GPT解決方案,進一步加強學校在先進科技領域的教研能力,並推動更個性化和智能化的教學模式,提高學習效率。

在商業應用方面,耐能智慧AI晶片有四大產品線,包含邊緣伺服器、車用、安控及AIoT,高通除了是耐能股東之外,也與其進行各式各樣合作,其中高通在其RB1、RB2機器人平臺搭載耐能晶片,讓高通AI算力提升4倍,爲智慧掃地機器人及無人機部署物體檢測等能力。

耐能邊緣伺服器晶片可以像樂高積木一樣,進行多顆堆疊,達到高算力、低功耗效果,適用於小型伺服器。另外耐能也聚焦車用,已經打入前/後裝車用一級國際大廠,例如後裝晶片應用打進日本豐田車廠、前裝也有德系車廠進行緊密合作。耐能在2023年收購臺達集團晶睿通訊旗下子公司歐特斯,準備切入先進駕駛輔助系統(ADAS)及駕駛行爲偵測系統(DMS)。

即便過去在半導體與IC設計上,與臺灣存在很強競爭關係的韓國,耐能晶片也有辦法打入當地市場。例如跟Line同集團的韓國搜尋引擎Naver,以及全球第四大、韓國第一大安控產品領導廠商韓華集團等,都選擇採購使用耐能的晶片。

雖然GPU晶片目前在AI市場上佔據主導地位,但AI應用的爆發式發展,也產生了巨大的能源消耗。未來電費將可能佔據整體AI運營成本的40%。目前碳中和已是大勢所趨,除了更高的算力、更優異的性能,實惠的成本與節能勢必會成爲客戶考慮的因素。

CPU其實是專爲邏輯運算而生,電腦的主要的運算其實就是CPU在做;GPU一開始設計則是專爲遊戲或圖像運算去設計的專用晶片;只有NPU纔是真正專爲AI而生的晶片,也因此它本身在性能、效率跟功耗上,相較於CPU與GPU在AI上使用會有大幅的綜合優勢。

劉峻誠打比方說,如果把未來百花齊放的AI應用比喻爲城市裡的大街小巷,那麼CPU之於這座城市就像是坦克車,GPU則像是搬運貨物的大卡車,NPU則如同一般家用房車。雖然CPU與GPU各自有當初設計的目的與優點,但若說到要在城市裡面行駛與通行,那當然還是能夠在城市裡鑽來鑽去的小客車最省油、最好開,這就是NPU晶片在未來AI應用上的優勢。

想更進一步瞭解NPU晶片技術、終端裝置邊緣運算的發展現況,以及臺灣半導體與IC設計過去的成功經驗在未來NPU AI時代有何優勢?耐能科技創辦人劉峻誠在本集【財經相對論】裡,深入淺出地帶您瞭解未來AI應用爆發時真正趨勢之所在,敬請至Youtube工商時報頻道收看。