挑戰輝達 Cerebras推全球最快AI推論工具

AI新創公司Cerebras Systems27日發表號稱全球最快的AI推論工具，速度比輝達GPU快20倍，價格更便宜只有GPU的五分之一。圖／本報資料照片

以挑戰龍頭輝達爲目標的AI新創公司Cerebras Systems，27日發表號稱全球最快的AI推論工具，速度比輝達GPU快20倍，價格更便宜只有GPU的五分之一。

Cerebras執行長費爾德曼（Andrew Feldman）受訪指出，「我們產品的性能GPU達不到，而且精確度最高，價格最便宜。」

Cerebras的AI推論工具可爲大語言模型Llama 3.1 8B，每秒生成1,800個 tokens，比超大規模資料中心的輝達GPU解決方案快20倍。而且Cerebras價格以每百萬tokens收10美分起跳，與輝達GPU解決方案相比如同九牛一毛。

Cerebras創立於2015年，毫不掩飾挑戰輝達市場主宰地位的野心，還獲ChatGpt開發商OpenAI執行長奧特曼的青睞注資。開發全球最大AI晶片的Cerebras，今年3月發表專爲訓練AI模型設計的WSE-3處理器，採用臺積電 5 奈米制程打造。Cerebras證實有IPO計劃，本月向美國證管會秘密提交募股說明書。