在生成式AI的算力軍備競賽中，戰場正逐漸從「模型訓練」 (Training)轉移至目前對於成本更為敏感的「模型推論」 (Inference)應用。根據The Information網站引述知情人士說法指出，Google正與晶片設計業者Marvell (邁威爾)展開密切洽談，計畫共同開發下一代 (預期為第8代)的TPU AI晶片。 而此次合作傳聞最引人注意的是，除了正統TPU …

HPE（NYSE:HPE）宣布推出HPE AI Grid，這是以NVIDIA參考架構為基礎打造的端到端解決方案，可安全串聯跨區域及遠端邊緣站點的AI工廠與分散式推論叢集。透過HPE AI Grid，服務供應商可大規模部署並運營數千個分散式推論節點，將原本分散的AI部署整合為單一且智慧化的運作平台。AI原生應用需要可預測且低延遲的分散式基礎架構。作為NVIDIA AI Computing…