黃仁勳烤箱端新貨!輝達生成式AI超級電腦 價格砍半賣249美元

記者高兆麟/綜合報導

輝達(NVIDIA)在聖誕節推出大禮,推出體積小巧的新款生成式人工智慧(AI)超級電腦,透過軟體升級的方式,以更低價格提供更高效能,在NVIDIA釋出的最新影片中,NVIDIA執行長黃仁勳從烤箱中拿出一臺小巧的電腦晶片,也就是新推出的NVIDIA Jetson Orin Nano Super,不僅大小僅手掌一般大,價格更砍半至249美元。

▲輝達創辦人暨執行長黃仁勳。(圖/記者湯興漢攝)

新款NVIDIA Jetson Orin Nano Super開發者套件僅手掌大小,不論是商業AI開發人員業餘者與學生,都可以享受到更棒的生成式AI功能和更高的效能。價格也從499美元降至249美元。

與前代產品相比,這款在今天上市的產品能夠將生成式AI的推論效能提高1.7倍、運算效能提高70%至67 INT8 TOPS,記憶體頻寬加大50%至每秒102 GB。無論是使用檢索增強生成技術來建立LLM聊天機器人、建立視覺AI代理,還是部署AI機器人,Jetson Orin Nano Super都是理想的解決方案。

對於已經擁有Jetson Orin Nano開發者套件的使用者而言,新款 Jetson Orin Nano Super 的軟體更新服務也將提高運行生成式 AI 的效能。Jetson Orin Nano Super適合有興趣發展生成式AI、機器人或電腦視覺技能的人士使用。隨着AI世界正從特定任務模型朝着基礎模型的方向轉變,它也提供了一個容易使用的平臺,能夠協助將想法轉化成現實。

Jetson Orin Nano Super 更強大的運算效能能夠運行各種熱門的生成式 AI 模型和以 transformer 爲基礎的電腦視覺。這款開發者套件包含一個Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的理想平臺。

這個SoM搭載 NVIDIA Ampere 架構GPU及Tensor核心,以及6核心Arm CPU,能夠同時運行多個AI應用管道與進行高效能推論作業。它最多可支援四具攝影機,提供比過去版本更高的解析度與幀率

生成式AI正迅速發展。NVIDIA Jetson AI Lab可立即支援由開源社羣所發展出的尖端模型,並且提供簡單易用的教學內容。開發人員也可以從規模更大的Jetson 社羣得到更多支援,以及從開發人員建立的項目裡獲得靈感。

Jetson能夠執行NVIDIA AI軟體,包括用於機器人的NVIDIA Isaac、用於視覺 AI 的NVIDIA Metropolis,以及用於處理感應器資料的NVIDIA Holoscan。使用NVIDIA Omniverse Replicator來產生合成資料,以及使用用於微調NGC 目錄裡預先訓練好的 AI 模型的 NVIDIA TAO Toolkit可縮短開發時間。

Jetson 生態系合作伙伴提供額外的AI與系統軟體、開發者工具,以及開發專屬軟體。他們也能夠協助提供攝影機和其他感測器,以及載板和產品解決方案的設計服務。

Jetson Orin NX 與 Orin Nano 系列系統模組同樣能夠藉由軟體更新服務,將運行生成式 AI 的效能提高 1.7 倍。