NVIDIA AI

企業引入生成式 AI，而且傾向在地部署。建立混合雲存取寄公共雲的數據是一大難題。HPE 今年的Discover More AI 香港大會探討這議題，幫助企業部署 AI 平台，同時設混合雲環境將工作負載遷至不同基建執行。HPE 香港及澳門總經理郭榮忠表示，AI 的價值在於運用數據，方能把技術有效用於生產流程。

阿里雲發布專為汽車應用程式而設的艙駕融合大模型解決方案。該解決方案由阿里雲、方案供應商斑馬及 NVIDIA 共同開發，主要目標客戶為中國汽車製造商，藉方案為其車主提供更優質的互動體驗。

Forrester 對全球頂級的 LLM 做了審查、評分及排名，早前發布了《 The Forrester Wave™: AI Foundation Models For Language, Q2 2024 》報告，按排位有點出乎意料之外，香港人熟識又是帶起 AI 熱潮的 OpenAI ChatGPT-4 只能拿下第四位，榜首由 Google Gemini 取得。

美國多次收緊人工智能（ AI ）晶片向中國出口的條件，令中國的人工智能運算能力受到一定限制。即使如此，商湯仍然預期公司整體運算能力繼續增加，兩年後從目前約 12EFLOPS 增至 30EFLOPS。商湯科技董事長和行政總裁徐立稱，之後會加碼採購中國產晶片。

NVIDIA 在主導全球 AI 晶片的地位，還特別為中國市場推出專用的 AI GPU 產品。不過據《華爾街日報》報道，中國大型公共雲公司阿里雲和騰訊測試過 NVIDIA 中國特供的 AI 晶片 H20 樣本後，均對這款降級產品不感興趣。這些公司或改買華為的昇騰，或自行研發 AI 晶片。

NVIDIA 去年 9 月推出 AI 運算 GPU H100 之後，公共雲平台陸續採購和完成安裝，相繼正式可用，最新有 AWS 推出 P5 執行個體，利用 AMD 第三代 EPYC 處理器，配最多 8 個 NVIDIA H100 Tensor Core GPU 。相較上一代用 A100 GPU 的 P4 執行個體， P5 可以將訓練時間縮減六倍，也節省最多 40% 訓練成本。

NetApp 近年由儲存平台轉型成混合雲端基建服務商。繼兩年前收購 Spot 節省公共雲成本軟件，去年又推出 BlueXP 混合雲管理平台。 而 ONTAP 軟件亦獲不少企業用作為人工智能數據基建，包括本地的龐源集團、醫療科技創業公司無創外科。

甲骨文與 NVIDIA 擴展合作， 旗下 Oracle Cloud Infrastructure (OCI) 將加入數萬個 NVIDIA GPU，包括 A100 及 H100，建成高效能 AI 雲端基礎架構，為企業提供不同產品組合，處理大規模 AI 訓練和深度學習推論。