最貴的閒置資產：等網絡的 GPU｜Spine-Leaf、擁塞與 RDMA

問題本質

在大型 AI 叢集裡，「網絡就是電腦」。葉脊之間只要出現擁塞或丟包，GPU 就會空轉等待梯度同步——單位時間成本往往高於交換器本身。

實務重點

• Spine-leaf 無阻塞設計與足夠上行超額認購比。
• RoCEv2 需要 PFC / ECN；InfiniBand 有獨立擁塞控制路徑。
• 監控：端口錯誤、pause frames、ECN marked、collective 延遲。

延伸閱讀：AI/GPU 網絡入門｜光模組與機房系統。