本地運算

NVIDIA Grace Blackwell 與 vLLM 推理效能探討

NVIDIA Grace Blackwell 與 vLLM 推理效能探討

雖然不少網上測試認為PGX Spark可支援每秒300 Tokens速度,我們使用兩部ASUS Ascent GX10桌上型AI超級電腦進行測試。這平台與NVIDIA DGX Spark完全一致,同樣 …

了解更多
NVIDIA DGX Spark:本地AI運算的新選擇與實戰挑戰

NVIDIA DGX Spark:本地AI運算的新選擇與實戰挑戰

NVIDIA DGX Spark:本地AI運算的新選擇與實戰挑戰 自從 NVIDIA 推出了 NVIDIA DGX Spark,創辦人黃仁勳親自將新款 AI 超級電腦 DGX Spark 交付給 埃 …

了解更多