CPU: Intel i5
GPU: RTX 4060Ti 16G
内存: 32GB
CPU: Intel i7
GPU: RTX 4070Ti 16G
内存: 64GB
CPU: Intel i9
GPU: RTX 4090 24G × 2
内存: 128GB
CPU: Intel Xeon × 2
GPU: RTX PRO 6000 96G × 8
内存: 512GB
CPU: Intel Xeon × 2
GPU: H200 141G SXM × 8
内存: 2048GB
CPU: Intel Xeon × 2
GPU: B300 288G × 8
内存: 3TB
| DeepSeek-7B | 7B | RTX 4060Ti | 30 tokens/s | 1-2人 | |
| DeepSeek-14B | 14B | RTX 4070Ti | 40 tokens/s | 2-3人 | |
| DeepSeek-32B | 32B | RTX 4090 × 2 | 50 tokens/s | 3-5人 | |
| Pro-70B | 70B | RTX PRO 6000 96G × 8 | 1000+ tokens/s | 40-80人 | |
| Pro-200B | 200B | H200 141G SXM × 8 | 2000+ tokens/s | 200+人 | |
| Max-671B | 671B | B300 288G × 8 | 4000+ tokens/s | 400+人 |