企業若要顧及數據安全訓練 AI 模型,只得自建 AI 叢集。思科發表人工智能叢集 Nexus HyperFabric,運用 NVIDIA 的 GPU 和 DPU 技術,配上旗下的網絡交換器和網絡軟件,以及 VAST 數據儲存平台,支援企業生成式 AI 工作負載。產品預計在今年第四季交付給部分客戶試用,之後才正式推出市場。
思科亞太、日本和大中華區總裁 Dave West 稱,Nexus HyperFabric 結合思科和 NVIDIA 的技術,簡化部署生成式 AI 軟件,也為 AI 架構堆疊提供可視度及分析。該人工智能叢集讓企業在地部署端到端的方案,附以雲端管理功能,在數據中心、共置設施及邊緣站點部署大規模結構。方案由不同產品組合而成:
- 思科 Nexus 6000 系列交換器由該公司的 Silicon One 晶片支援,提供 400G 及 800G 以太網結構效能;
- 思科 Optics 系列 QSFP-DD 模組;
- NVIDIA H200 Tensor Core GPU;
- NVIDIA BlueField-3 DPU 及 SuperNIC,卸載數據存取和安全效能負載;
- NVIDIA MGX 模組化伺服器架構;
- NVIDIA AI Enterprise 軟件部署生產規模級別的生成式人工智能工作負載;
- NVIDIA NIM 推理微服務,加速部署基礎模型;
- VAST 數據平台提供統一的儲存、數據庫及 AI 數據驅動功能引擎;
- 雲端管理功能。