NVIDIA 貢獻 Blackwell 平台設計供開放式硬體生態系使用 加速推動 AI 基礎設施創新

(GNN 記者 Edward 報導) 2024-10-16 14:56:16

  為推動發展開放、高效且具擴充能力的資料中心技術,NVIDIA 今日宣布已將 NVIDIA Blackwell 加速運算平台設計的基礎要素貢獻給開放運算計畫(OCP)使用,並且擴大 NVIDIA Spectrum-X 支援 OCP 標準的程度。
 
  • image
 

【以下內容為廠商提供資料原文】

 
  NVIDIA 在今年的 OCP 全球高峰會上,將與 OCP 社群分享 NVIDIA GB200 NVL72 系統機電設計的關鍵組成,包括機架架構、運算與交換器托盤機構、液冷與熱環境規格,以及 NVIDIA NVLink 纜線盒的體積容量,以支援更高的運算密度與網路頻寬。
 
  NVIDIA 已經橫跨多個硬體世代做出多次正式貢獻給 OCP,其中包括 NVIDIA HGX H100 基板設計規格,以幫助生態系提供來自全球電腦製造商更多的產品選擇,還有擴大人工智慧(AI)的應用範圍。
 
  此外,NVIDIA Spectrum-X 乙太網路平台更加符合 OCP 社群所制定的規格,可讓企業部署 OCP 認可的設備,發揮 AI 工廠的效能潛力,又能保留原本的投資及保持軟體一致性。
 
  NVIDIA 創辦人暨執行長黃仁勳表示:「NVIDIA 從跟 OCP 合作十年的基礎出發,與產業領導廠商共同努力,制定可在整個資料中心廣泛採用的規格與設計。我們推動開放標準,協助全球各地的組織充分發揮加速運算技術的潛力,打造未來的 AI 工廠。」
 

針對下一次產業革命打造的加速運算平台

 
  NVIDIA 的加速運算平台是專為支援發展 AI 新時代而設計。
 
  電腦製造商採用建立在 NVIDIA MGX 模組化架構上的 GB200 NVL72,便能以快速且符合成本效益的方式建立大量資料中心基礎設施設計。
 
  這款機架規模設計的液冷系統,連接 36 顆 NVIDIA Grace CPU 和 72 顆 NVIDIA Blackwell GPU。當中的 72 顆 GPU 的 NVIDIA NVLink 網域,可以當成一個大型 GPU 進行運作,在上兆個參數的大型語言模型進行即時推論作業時,速度比 NVIDIA H100 Tensor 核心 GPU 快上 30 倍。
 
  現加入新一代 NVIDIA ConnectX-8 SuperNIC 的 NVIDIA Spectrum-X 乙太網路平台,支援 OCP 的交換機抽象層介面(Switch Abstraction Interface,SAI)與 Software for Open Networking in the Cloud(SONiC)標準。這樣一來客戶便能使用 Spectrum-X 的動態路由和基於遙測的壅塞控制技術,加速橫向擴充式 AI 基礎設施的乙太網路效能。
 
  ConnectX-8 SuperNIC 具有速度高達 800Gb/s 的加速網路,以及針對大規模 AI 工作負載進行最佳化的可程式化資料包處理引擎。適用於 OCP 3.0 的 ConnectX-8 SuperNIC 將於明年推出,協助組織建立高度靈活的網路。
 

資料中心的關鍵基礎設施

 
  隨著全球從通用運算改為使用加速運算與 AI 運算技術,資料中心基礎設施也變得日漸複雜。NVIDIA 正與 40 多家全球電子產品製造商緊密合作,這些製造商為打造 AI 工廠提供關鍵元件,以求簡化開發流程。
 
  此外,還有不少合作夥伴也在 Blackwell 平台上進行創新與建置,其中包括 Meta,該公司計畫將其搭載 GB200 NVL72 的 Catalina AI 機架架構貢獻給 OCP。這樣提供電腦製造商靈活的選擇以建立高運算密度系統,且能滿足資料中心不斷成長的效能與能源效率需求。
 
  Meta 工程部門副總裁 Yee Jiun Song 表示:「NVIDIA 多年來始終是開放運算標準的主要貢獻者,其中包括其高效能運算平台,過去兩年來這個平台一直是我們 Grand Teton 伺服器的基礎。我們不斷努力滿足大規模 AI 日益增長的運算需求,NVIDIA 在機架設計與模組化架構方面最新的貢獻內容,將有助於加快整個產業開發與導入 AI 基礎設施的速度。」
 
  歡迎在 10 月 15 日至 17 日於聖荷西會議中心舉行的 2024 OCP 全球高峰會中,深入瞭解 NVIDIA 對開放運算計畫的貢獻。
 

©本文為NVIDIA 公司 2024版權所有,並保留所有權利。NVIDIA、NVIDIA 標誌、,ConnectX、NVIDIA Grace,、NVIDIA HGX、NVIDIA MGX、NVIDIA Spectrum-X、NVLink和SuperNIC是NVIDIA 公司在美國及其他地區的商標及(或)註冊商標。所有其他公司及產品名稱乃為所屬個別公司之商標。功能、訂價、出貨時程和規格之變更不會另行通知。

標籤:

#ai #nvidia

載入中...

延伸報導

NVIDIA DLSS 支援《心靈殺手 2:湖邊小屋》《地平線:零之曙光 Remastered》等
3C | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
0
《幽影對決》、《星際大戰:亡命之徒》和《Supermoves》等遊戲上市時即支援 DLSS
PC | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
0
【GC 24】NVIDIA與《Mecha BREAK》、完美世界展示數位人語言模型 幫助NPC對話更生動
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
10
NVIDIA 與 Xbox 合作讓 GeForce 玩家可獲得三個月免費 PC Game Pass
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
43
NVIDIA 公開遊戲 AI 助理 Project G-Assist 幫助玩家迅速掌握遊戲知識、克敵通關
3C | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
43
NVIDIA 發表支援 3-way SLI 的 Intel 晶片組「nForce 780I SLI」
其他 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
7
NVIDIA 發表 TensorRT-LLM 加速 AI 推論效能 支援在 RTX 驅動的 Windows PC 上運行的新模型
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
2
NVIDIA 發表 ACE for Games 服務 利用生成式 AI 讓遊戲 NPC 互動更逼真
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
173
NVIDIA AI 聊天機器人「ChatRTX」推出更新 支援更多大型語言模型與影像辨識
3C | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
23
【GC 23】NVIDIA ACE 搭配 NeMo SteerLM 讓 AI 驅動的 NPC 展現情感個性
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
3
NVIDIA 數位人技術為動畫、圖形等提供支援 強調可於遊戲中創作活靈活現 NPC
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
4
NVIDIA 介紹 ACE for Games 新服務 在遊戲中打造客製化的語音、對話和動畫人工智慧模型
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
3
NVIDIA 推出 NVIDIA nForce 680i LT SLI 新晶片組產品
其他
0
Google 發表全新 AI 生成工具「Genie 2」 能以單張圖像建構可遊玩的 3D 遊戲世界
產業 | 技術
66
黃仁勳介紹 NVIDIA Picasso 最新功能 可透過文字提示建立 8K 畫質、360 HDRi 全景圖
產業 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
2
生成式 AI「Apple Intelligence」即日起於 iPhone、iPad 和 Mac 上提供
產業 | 蘋果 Apple
8
NVIDIA 發表 3 繪圖卡並列處理技術「3-way SLI」
其他 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
6
NVIDIA 發表「Hybrid SLI」技術 提昇繪圖效能並降低系統耗電
其他 | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
2
AI 男孩「ALTO」的養成模擬冒險遊戲《ALTO Re:code》將於 11 月 6 日在日本推出
手機 | ALTO Re:code
13
NVIDIA 與科技部合作 運用 NVIDIA 人工智慧運算平台加速推動 AI 革命
PC | NVIDIA GPU 繪圖處理器 繪圖晶片 晶片組
9