伺服器與記憶體 / Servers & Memory

搜尋「GPU server」時，企業常落到 Dell PowerEdge（如高密度 GPU 機型）與 Supermicro GPU／HGX 平台。重點往往不是型號字母，而是功耗、風向、PCIe／SXM 形態與 ToR 上行。 挑選順序 GPU 形態：PCIe vs SXM／HGX 單節點卡數與 NVLink 需求 PDU、UPS、精密空調是否撐得住（見 機架 checklist） 記憶體是否 ECC、容量是否夠跑目標模型（ECC 指南） 汰換下來的網絡與伺服器可走 機房回收。 下一步 / Next：報價、二手設備或機房配套，請聯絡 Infraplushk · AI/GPU 指南 · 二手網絡採購 · Shop

搜尋「NVIDIA Spark」時，多數人指的是 NVIDIA DGX Spark（以及同晶片線的 RTX Spark）：桌上型個人 AI 工作站，不是資料中心機架裡的 H100。 核心規格（公開資料摘要） 晶片：GB10 Grace Blackwell Superchip（CPU + GPU 緊密耦合） CPU：約 20 核 Arm（Grace 系列核心） GPU：Blackwell，公開規格約 6,144 CUDA cores 統一記憶體：128GB LPDDR5X 等級，CPU/GPU 共享（NVLink-C2C） AI 算力：官方宣傳可達約 1 petaflop（視精度／工作負載） 網絡：含高速乙太網／ConnectX-7 等進階連線選項（依機種） 適合誰 開發者／研究室要在桌上跑數十億至約 200B 參數級模型（雙機可更高） 想避開完整機架功耗，但仍要統一大記憶體的本機推理／微調 和 H100 / B200 機架的差異 Spark 是個人／桌上形態；H100、H200、B200 是資料中心訓練／大規模推理。港企 Lab 若已有 spine-leaf 與 100G+，機架

為什麼二手 AI GPU 要特別小心 H100 / H200 單卡價值高，二級市場活躍，但韌體版本、NVLink 拓樸殘留設定與保固狀態差異很大。 檢查清單 確認 SKU：SXM vs PCIe、記憶體容量、功耗牆。 nvidia-smi / 廠商工具讀取 ecc、溫度、retired pages。 多卡節點驗證 NVLink / NVSwitch 連通，不只單卡跑分。 釐清賣家保固、RMA 路徑與進出口合規。 導入前請先評估機架電力與網絡——見 AI/GPU 高速網絡指南。需要周邊交換或光模組，可聯絡 Infraplushk。