在 COMPUTEX 的主題演講中公布了多項新系統、軟體及服務，其中許多均搭配 Grace Hopper 超級晶片，以駕馭我們這個時代帶來最大改變的技術。NVIDIA 創辦人暨執行長黃仁勳在他於新冠疫情後的首場直播主題演講為台北國際記者會開場，並宣布企業可以利用這些平台來駕馭生成式人工智慧在當代歷史上所掀起的巨大浪潮，這股浪潮改變了從廣告、製造到電信等各行各業。在多年來線上主題演講（其中一些還是在他的家中的廚房進行）之後，黃仁勳上台時大聲宣布：「我們回來了，我已經將近四年沒有公開演講了，祝我好運！」面對座無虛席的會場，他以將近兩個小時的時間向約 3500 名觀眾描述加速運算服務、軟體和系統如何夠創造新的商業模式，並使現有模式更加高效。
主題演講中的重點消息
- Grace Hopper 助力配載大型記憶體的超級電腦，以處理生成式人工智慧作業
- 模組化參考架構誕生出百餘款加速運算伺服器配置
- WPP 與 NVIDIA 合力在 Omniverse 平台中開發數位廣告內容引擎
- SoftBank 和 NVIDIA 一同在日本建設 5G 與生成式 AI 資料中心
- 網路技術加速運作乙太網路架構人工智慧雲端環境
- NVIDIA ACE for Games 使用生成式人工智慧為人物角色賦予生命
- 全球電子製造商採用 NVIDIA 人工智慧技術
用於 Enterprise AI 的全新引擎
黃仁勳宣布推出具有龐大記憶體的人工智慧超級電腦 DGX GH200，供需要極致人工智慧效能表現的企業使用。DGX GH200 使用 NVIDIA NVLink 網路技術，將 256 個 NVIDIA Grace Hopper 超級晶片連接成一個資料中心大小的 GPU。黃仁勳也宣布 GH200 超級晶片現已全面投產。它將具有絕佳能效的 NVIDIA Grace CPU 與高效能 NVIDIA H100 Tensor 核心 GPU 集合在一個模組內。DGX GH200 的運算效能達到 1 exaflop，擁有 144 TB 的共享記憶體，表現比一具 NVIDIA DGX A100 320GB 系統高出近 500 倍。這使得開發人員可以用它來開發用於生成式人工智慧聊天機器人的大型語言模型、用於推薦系統的複雜演算法，以及用於偵測詐欺及資料分析的繪圖神經網路。Google Cloud、Meta 與微軟率先使用 DGX GH200 來探索處理生成式人工智慧工作負載的能力。
NVIDIA DGX GH200 人工智慧超級電腦以 1 exaflop 的運算效能來處理生成式人工智慧的工作量
