生成AI時代的PC選擇：實測RTX 4090/5090/PRO 6000/DGX Spark心得

生成AI時代的PC選擇。

由於我身處能日常使用RTX 4090、RTX 5090、RTX PRO 6000、DGX Spark的環境，我強烈感受到這四者並非單純的效能高低排序，而是各自「能做的事」與「適合的事」劃分得相當清楚。

選擇生成AI用的PC時，與其思考「哪張GPU最快」，不如先思考「我想在本地端做什麼」。

RTX 4090：至今仍是完成度極高的24GB環境

RTX 4090雖然已是前代旗艦，但穩定性出類拔萃。

以SDXL、Z-Image、Anima這類等級的影像生成AI來說，它至今仍十分能打。若要做到本地端影片生成，24GB在許多情況下會感到吃力；但如果影片部分決定使用Web服務，那就完全不會構成問題。

而4090的一大強項，在於CUDA周邊生態系已非常成熟。PyTorch、xFormers、Flash Attention等生成AI常用的CUDA擴充，都有極高機率「正常安裝、正常運作」。至少就RTX系GPU而言，Ada世代以前的環境成熟度非常高。

如果以生成AI為目的、希望盡量不要在環境建置上吃苦，RTX 4090至今仍是相當出色的GPU。

RTX 5090：性能最強，但AI用途該如何看待32GB容量

RTX 5090就是快。

如果你的首要目的是用最強顯示卡玩遊戲，那它毫無疑問值得推薦。無論遊戲遊玩或遊戲開發，都能享受到目前最高等級的GPU效能。

當然，在生成AI方面它也快過4090，VRAM也從24GB增加到32GB，因此在解析度、批次大小、快取、同時使用多模型等情境下，餘裕明顯增加。

不過，若以「本地端生成AI能處理的模型等級」來看，從24GB增加到32GB其實算不上多大的跳躍。因為在生成AI領域，48GB附近才是重大分水嶺。

也就是說，5090非常適合「把4090能做的事情做得更快、更從容」的用途；但對於「想把4090裝不下的超大型模型大量載入」這樣的目的，世界可能不會如預期般改變。

另一個要注意的是CUDA環境。5090屬於Blackwell世代的SM12.0，因此既有的生成AI用CUDA擴充並不一定都能像4090那樣直接運作。網路上寫的安裝步驟，也可能無法直接套用在自己的CUDA、PyTorch、Python、GPU組合上。

所以，如果以AI用途為主而購買5090，建議最好具備一定程度的能力，能一邊使用Codex或Claude Code等工具，一邊根據自身環境建置CUDA擴充的Wheel。極端來說，若是在「Wheel是什麼？」的狀態下把5090當作AI專用機，有時選擇4090反而更輕鬆。

RTX PRO 6000：能把96GB當作「餘裕」而非「容量」的GPU

RTX PRO 6000 Blackwell在GPU世代上與5090同為Blackwell、SM12.0，因此CUDA環境方面同樣屬於需要自己打理一些事情的使用者取向。

它的驅動程式管理也與GeForce稍有不同，包含RTX Enterprise系列在內，必須根據自己的用途選擇合適的環境。

但一旦克服這些，96GB的VRAM所帶來的衝擊是壓倒性的。做為媒體類本地端生成AI環境，96GB並非單純「能裝下巨大模型」，它還能把VRAM餘裕分配到高解析度化、同時常駐多模型、搭配VLM與LLM、ControlNet等附加處理、快取、UX改善等方向。

例如，它非常適合「想在ComfyUI工作流中嵌入多個功能不同的LLM代理」這類架構。想建立一套在單一工作流內整合影像生成、影片生成、VLM、LLM的系統時，重要的不只是運算速度，還有「能多隨意地使用VRAM」。96GB的容量能大幅擴展這種自由度。

RTX PRO 6000分為Workstation Edition與Max-Q Workstation Edition，後者的功耗約只有一半。因此看配置，搭載兩張Max-Q這樣的想法也變得實際。日本一般家庭插座單迴路約有1500W限制，在此範圍內思考能裝到多少GPU效能與VRAM容量時，RTX PRO 6000 Max-Q是相當有趣的存在。

DGX Spark：不是快速GPU，而是「大容量AI伺服器」

DGX Spark在這四者之中相當特別。

首先，它並不是以一般PC的用途來思考的。老實說，只有AI用途。而且僅看影像生成效能，它比RTX 4090慢不少。影片生成更是吃力，就算用MiniMax H3搭配高速化LoRA，生成1百萬畫素等級、約15秒的影片，也得有等上30分鐘左右的心理準備。

因此，若目標是「想高速跑ComfyUI」，我並不推薦購買DGX Spark。

但如果把它視為提供LLM、Embedding、Reranker、RAG等服務的本地端API伺服器，情況就完全不同了。

DGX Spark搭載128GB的統一記憶體。由於並非GPU專用VRAM，而是OS也共用相同記憶體，所以128GB無法全部拿來跑AI模型。實際運作時會保留OS與常駐程式的空間，我個人會以約100GB左右做為模型用途的參考。

重要的是「能正常用到100GB附近」。這正是它與RTX PRO 6000的主要分工差異。

RTX PRO 6000能以驚人速度處理到96GB；DGX Spark雖然比RTX PRO 6000慢很多，卻有機會處理96GB裝不下的模型。而且它功耗低，即使長時間常駐LLM，也不容易讓房間熱得誇張或電費暴漲。

因此，與其把DGX Spark視為「高速GPU」，不如將它視為「能常時擺放100GB級模型的省電AI伺服器」，這樣思考會非常實用。

RTX PRO 6000與DGX Spark並不互相競爭

雖然這是有點奢侈的話題，但我個人覺得特別方便的是「RTX PRO 6000 + DGX Spark」這個組合。

這兩台設備的用途完全不衝突。

RTX PRO 6000負責影像生成、影片生成、VLM、ComfyUI、需要即時性的處理；DGX Spark則常駐LLM、Embedding、Reranker、RAG、代理用推論API等。

這樣一來，RTX PRO 6000的96GB不會被LLM佔用，可以全力投入媒體生成。同時DGX Spark能讓大型LLM與Embedding模型保持常時啟動。

換句話說，這是讓「高速96GB GPU記憶體」與「低功耗100GB級AI記憶體」分工合作的架構。這種分工方式相當舒適。

進一步搭配NVIDIA Sync，就能不太意識到DGX Spark是另一台Linux機器，而像主PC的外部AI擴充一樣使用。它的作業系統是基於Ubuntu的DGX OS，但Ubuntu與NVIDIA相關資訊極多，遇到問題用ChatGPT或Codex詢問多半能解決。NVIDIA自身提供的AI容器、Workbench、開發環境也十分充實，這是一大特點。

從這層意義來看，DGX Spark確實是與其他搭載GPU的PC類別不同的產品。

歸根究底，不是「最快的GPU」，而是「現在缺的是什麼」

生成AI用的GPU價格只會一直漲。正因如此，「買一張最強的GPU就能搞定全部」的想法其實效益不佳。

大致整理如下：

- RTX 4090 → 想在成熟的CUDA環境中穩定使用影像生成AI
- RTX 5090 → 包含遊戲與CG在內，想在32GB以內超高速處理
- RTX PRO 6000 → 想用96GB高速VRAM建置大規模生成AI工作流
- DGX Spark → 想以省電方式常時運行100GB級LLM與Embedding

選擇生成AI用PC時，與其問「哪個最快」，不如先想「自己最想做的是什麼」。

更進一步說，其實也不需要從零思考一台全新的PC。看看現在的環境，缺的是什麼？是VRAM？是速度？是模型容量？還是能常時運作的伺服器？先釐清這點再決定添購方向，最終才是最合理的做法。

在生成AI世界中，越是追求通用性，花費越是無止境。正因如此，與其尋找「什麼都能做的一台機器」，不如理解各硬體的強項並讓它們分工合作。目前我認為，這才是打造舒適生成AI環境的最佳方式。