科技3C財經頭條

人工智慧全方位強化 技嘉在 NVIDIA GTC大展 AI 實力!

2024.03.19 11:10【EZway生活報報╱記者張俊豪╱綜合報導】

企業解決方案領域的行業領導者,技嘉科技(TWSE: 2376)子公司技鋼科技,將於全球人工智慧開發者大會NVIDIA GTC的GIGABYTE展位#1224展示其解決方案,該大會將持續到3月21日。這一活動為GIGABYTE提供了與其重要合作夥伴和客戶聯繫的機會,共同探索運算未來的前景。

GIGABYTE展位聚焦在AI訓練和推論工作,帶來眾所矚目的NVIDIA多功能運算平台,及至得以提高能源效率的直接冷卻(DLC)技術。同時在NVIDIA 展位的 MGX 展區,一座支援 NVIDIA GH200 架構的GIGABYTE伺服器機櫃更是不容錯過。

以GPU叢集為核心的AI再進化

在GIGABYTE展位有一個格外重要的可擴展的GPU叢集單位,這座安置了GIGABYTE G593-SD2伺服器的機櫃,專為NVIDIA HGX H100 8-GPU而設計,並支援第五代雙Intel® Xeon®可擴充處理器。這個規模化的HGX平台是目前用於生成式人工智慧和大型語言模型最強大的加速器平台,具備最佳的軟體支援其豐富的科學應用,能依需求擴展GPU叢集。G593-SD2是通過NVIDIA認證系統,具穩定的效能且方便企業快速部署。

通過NVIDIA OVX伺服器認證的G493-SB0

資料中心需要在具備更大的容量的前提下減少空間的浪費,因此創造了更多的插槽以支援PCIe Gen5擴充卡、高速網卡(NIC)或DPU。GIGABYTE G493-SB0伺服器通過NVIDIA OVX™伺服器認證,全力支援NVIDIA GPU、DPU和高速網卡的理想比例。OVX平台是專為在資料中心開發和運行NVIDIA Omniverse™平台應用而生。這種模組化的設計完美體現在G493-SB0上,能在4U的空間中支援兩個CPU、四個NVIDIA L40S GPU、兩個NVIDIA ConnectX®-7 NIC和一個NVIDIA BlueField®-3 DPU,是經過最佳化的NVIDIA Omniverse™平台。

CPU 與 GPU相互交織的交響曲

GIGABYTE XH23-VG0是一款2U伺服器,具有一個GH200超級晶片的額外I/O插槽,用於支援BlueField-3 DPU和ConnectX-7智慧網卡。這款NVIDIA GH200 Grace Hopper平台是首款NVIDIA異構CPU-GPU模組,由NVIDIA Grace CPU和NVIDIA H100 GPU結合而成,使用NVIDIA® NVLink®Chip-to-Chip(NVLink-C2C)技術,以每秒高達900GB驚人速度傳輸資料。強大的NVIDIA H100 GPU不僅為AI和HPC工作帶來新突破,更可與NVIDIA Grace™ CPU 超級晶片搭配使用,創造更多運算奇蹟。

超級晶片適用的先進液體冷卻解決方案

當效能愈強,能耗和冷卻需求就愈加龐大。GIGABYTE已經為現有甚至未來的G593系列準備好直接液體冷卻解決方案,以應付NVIDIA平台的散熱需求。GIGABYTE的被動式水冷循環板,支援NVIDIA Grace CPU和GH200 超級晶片的設計,確保熱能得以自運算密集的2U 4節點系統中迅速移除。無論是面對H263-V60中的四個Grace CPU超級晶片,或是 H263-V11中的四個GH200超級晶片,GIGABYTE液體冷卻技術能確保所有處理器在高密度運算伺服器中運行時都能夠達到最佳效能。

支援旗艦級NVIDIA Blackwell GPU

GIGABYTE伺服器將支援Blackwell GPU。根據NVIDIA的生產計劃,Blackwell GPU將取代Hopper GPU,GIGABYTE亦為企業級伺服器上市作好準備。這款全新NVIDIA B200 Tensor Core GPU,在AI生成和加速運算皆具優勢,特別是在LLM推論工作負載中更加出色。GIGABYTE伺服器將為HGX基板、超級晶片和PCIe擴充卡在接下來的幾個月內釋出產品,敬請拭目以待。

「GIGABYTE伺服器為企業提供卓越的AI運算能力,以應對當今最嚴苛的工作負載,」 GIGABYTE CEO李宜泰接著表示:「我們的設計能支援各種CPU和GPU架構,加速人工智慧訓練和推論工作。透過支援NVIDIA的MGX模組化架構,能加速多種伺服器配置的上市時間,滿足客戶各種需求。」

「GIGABYTE伺服器解決方案採用NVIDIA HGX H100 GPU和GH200超級晶片,推動了人工智慧的突破!」 NVIDIA GPU產品部門副總裁Kaustubh Sanghani表示:「透過多功能的加速運算平台和先進的液冷技術,GIGABYTE為其客戶提供了推動創新的先進運算能力。」

議程S63282:透過Omniverse共探虛實協作的未來

現場演講:3月20日,週三,上午8:00 – 8:25(美西時間)

製造事業群總經理 Kevin Meng博士將介紹Omniverse平台的應用,幫助聽講者了解如何在其產業中應用數位孿生技術。

議程S62247:NVIDIA Grace Hopper超級晶片和Grace CPU超級晶片的客戶案例

現場演講:3月19日,週二,上午11:00 – 11:50(美西時間)

東京大學地震研究所副教授Kohei Fujita和Los Alamos國家實驗室科學家Galen Shipmen將分享由固有系統轉換至Grace CPU和GH200平台的真實經歷,並深入了解系統效能和能源效率。