NVIDIA推出AI Enterprise軟體套件
繪圖晶片大廠NVIDIA(輝達)宣佈推出 NVIDIAR AI Enterprise,這是一套全方位的企業級人工智慧 (AI) 工具和框架軟體套件,由 NVIDIA 提供最佳化、認證及支援服務,專供今日另外宣佈推出的 VMware vSphere 7 Update 2 使用。
NVIDIA 與 VMware 這項業界首見的合作所開發出的 AI-Ready Enterprise 平臺,透過 NVIDIA 的 NVIDIA AI Enterprise 套件,在 VMware vSphere 上以虛擬化的方式運行 AI 作業負載。這項產品爲企業提供專爲開發廣泛 AI 解決方案所需的軟體,例如醫療照護領域的進階診斷、製造業的智慧工廠與金融服務領域的詐欺偵測。
藉助NVIDIA AI Enterprise 套件,在數十萬家企業中使用 vSphere 進行虛擬化運算的 IT 專業人員,現在可以透過用來管理大規模資料中心及混合雲環境的相同工具來支援 AI。NVIDIA 軟體套件可在 vSphere 上提供具橫向擴展的多節點 AI 應用效能,其表現與裸機伺服器絲毫沒有差別。
NVIDIA 企業與邊緣運算部門副總裁暨總經理 Justin Boitano 表示,直到現在,全世界都還是在裸機伺服器上運行 AI 運算作業。NVIDIA AI Enterprise 套件讓客戶能夠將開發 AI 模型的時間,從原本的八十週縮短到僅八週,也讓客戶能夠以與裸機同等的橫向擴展性和破紀錄的 NVIDIA 加速運算效能,在 VMware vSphere 上部署及管理進階的 AI 應用。
VMware 雲端平臺事業部行銷副總裁 Lee Caswell 表示,各個企業都在設法讓他們的基礎設施變得更現代化,以滿足 AI 應用的需求。VMware 的客戶在取得 NVIDIA AI Enterprise 與 vSphere 7 Update 2 後,就能在其虛擬化資料中心快速追蹤 AI 的運算表現,併爲其現代的應用輕鬆部署經認證且可用於 AI 的基礎設施。
Optum Technology 的資深首席工程師 Justin Potuznik 表示,在 Optum 爲 United Healthcare 所提供的資料驅動服務中,AI 所扮演的角色日益吃重。在我們的 VMware vSphere 環境上運行 NVIDIA 的 AI Enterprise 軟體和基礎設施,我們便能支援現代各項應用的作業負載,以企業級規模高效率地部署 AI。
NVIDIA AI Enterprise 套件相容於多種在混合雲環境中運行的大量加速 CUDAR 應用程式、AI 框架、預先訓練好的模型及軟體開發套件。在經過最佳化調整後的作業負載可以橫跨多個節點,以完全的 GPU 虛擬化支援大型的深度學習訓練模型。
VMware vSphere 7 Update 2 現在已經通過認證,可以搭配 NVIDIA 認證系統? 上運行的 NVIDIA A100 Tensor Core GPU 使用,以支援 NVIDIA AI Enterprise 套件內的各項應用,推出的廠商包括戴爾科技 (Dell Technologies)、慧與科技 (Hewlett Packard Enterprise)、Lenovo 及美超微電腦 (Supermicro)。有了這項認證,NVIDIA 將直接提供客戶支援服務給具備 NVIDIA AI Enterprise 授權的 vSphere 客戶。
NVIDIA 亦認證 vSphere是唯一一款可透過 NVIDIA 多執行個體 GPU (MIG) 技術進行即時遷移的運算虛擬化軟體,每個 A100 GPU 可運用 MIG 技術在硬體層面分割成最多七個執行個體,將各種規模的作業負載執行效率提升到最高。
另外,NVIDIA ConnectX 智慧網卡現在也取得 VMware vSAN over RDMA (Remote Direct Memory Access,遠端直接記憶體存取) 認證,這項技術能夠減輕 CPU 通訊任務的負擔,提高應用的執行表現與基礎設施的投資報酬率。
NVIDIA AI Enterprise 套件以永久授權的方式提供,每個 CPU 插槽的費用爲 3,595 美元。NVIDIA AI Enterprise 套件的企業級標準支援服務的年費爲每張許可證 899 美元。客戶預計升級到 VMware vSphere 7 Update 2 時,可以先申請早期試用 NVIDIA AI Enterprise。