CPU: Intel i5
GPU: RTX 4060Ti 16G
内存: 32GB
CPU: Intel i7
GPU: RTX 4070Ti 16G
内存: 64GB
CPU: Intel i9
GPU: RTX 4090 24G × 2
内存: 128GB
CPU: Intel Xeon
GPU: A100 40G × 4
内存: 256GB
CPU: Intel Xeon × 2
GPU: A100 80G × 8
内存: 512GB
CPU: Intel Xeon × 4
GPU: H100 80G × 8
内存: 1TB
| DeepSeek-7B | 7B | RTX 4060Ti | 30 tokens/s | 1-2人 | |
| DeepSeek-14B | 14B | RTX 4070Ti | 40 tokens/s | 2-3人 | |
| DeepSeek-32B | 32B | RTX 4090 × 2 | 50 tokens/s | 3-5人 | |
| Pro-64B | 64B | A100 × 4 | 80 tokens/s | 10-15人 | |
| Pro-128B | 128B | A100 × 8 | 100 tokens/s | 20-30人 | |
| Max-671B | 671B | H100 × 8 | 200+ tokens/s | 50+人 |