默认路径
Qwen3.8 27B 在本地、单用户、单流条件下运行，稳定 MTP/推测解码草稿视为常规路径。来源标注的短上下文测试、SGLang 与 DFlash/DFlash2 不计入默认中位数。
ModelDock 研究
基准数据
常规路径硬件 · 来源中位数 · 可调经济性你的工作负载
读取是模型摄入提示词、文件和聊天历史；写入是模型生成答案。长文档和编程会话通常偏重读取，因此默认从 90% 读取 / 10% 写入开始。稳定 MTP 视为常规路径，而不是单独场景。
模型量化
2× GPU 装机提示 双卡机器需要为宽卡预留机箱空间和插槽间距，具备稳定且余量充足的供电与散热；安装和多 GPU 调度也比单卡节点更复杂。
| 能力 | 当前负载经济性 | 证据 | 市场 | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Mac Studio M5 Ultra 96 GB30 核 CPU · 64 核 GPU · 96GB 统一内存 | 96 GB | 4,083 | 139.6 | 良好 | ~360W | — | $5,499 | 92.2 | $0.047 | $1.30 | $14.20 | 427 天 | 中位数 ↗ | |
| RTX 409024GB · 单卡节点 | 24 GB | 4,000 | 109.3 | 良好 | 550W | $3,199 | $4,399 | 75.8 | $0.058 | $1.98 | $11.67 | 454 天 | 中位数 ↗ | |
| RTX 508016GB GDDR7 · single-card node | 16 GB | 3,591.4 | 80.1 | 良好 | ~510W | $1,600 | $2,800 | 57.6 | $0.059 | $1.84 | $8.87 | 398 天 | 中位数 ↗ | |
| AMD Radeon AI PRO R970032GB GDDR6 · 单卡节点 | 32 GB | 2,197.4 | 80.8 | 良好 | ~420W | $1,700 | $2,900 | 52.5 | $0.059 | $1.51 | $8.08 | 442 天 | 中位数 ↗ | |
| RTX 309024GB · 单卡节点 | 24 GB | 2,094 | 86.5 | 良好 | 500W | $1,399 | $2,599 | 54.5 | $0.059 | $1.80 | $8.39 | 395 天 | 中位数 ↗ | |
| RTX 509032GB · 单卡节点 | 32 GB | 6,256.6 | 173.8 | 良好 | 700W | $7,250 | $8,450 | 120.1 | $0.060 | $2.52 | $18.50 | 529 天 | 中位数 ↗ | |
| RTX 5070 Ti16GB · 仅 Q3 或更小 | 16 GB | 2,498.5 | 71.1 | 良好 | 450W | $1,235.5 | $2,435.5 | 48.9 | $0.060 | $1.62 | $7.53 | 413 天 | 中位数 ↗ | |
| RTX 4070 Ti SUPER 16GB16GB GDDR6X · single-card node | 16 GB | 1,700 | 72 | 良好 | ~435W | $920 | $2,120 | 45 | $0.061 | $1.57 | $6.94 | 395 天 | 中位数 ↗ | |
| 2× RTX 5070 Ti每卡 16GB · 双卡节点 | 32 GB | 3,030 | 96 | 良好 | 620W | $2,471 | $3,671 | 64.5 | $0.066 | $2.23 | $9.94 | 477 天 | 中位数 ↗ | |
| RTX 3090 Ti24GB · 单卡节点 | 24 GB | ~2,255.1 | ~93.1 | 良好 | 600W | $1,900 | $3,100 | 58.6 | $0.066 | $2.16 | $9.03 | 452 天 | 估算 | |
| AMD Radeon RX 7900 XTX24GB GDDR6 | 24 GB | 1,529.2 | 71.2 | 良好 | 475W | $1,200 | $2,400 | 43.4 | $0.070 | $1.71 | $6.68 | 484 天 | 中位数 ↗ | |
| 2× Tesla V100 32GB32GB each · dual-card PCIe node | 64 GB | 2,355.3 | 78.8 | 良好 | ~650W | $1,500 | $2,700 | 52.3 | $0.073 | $2.34 | $8.06 | 473 天 | 中位数 ↗ | |
| AMD Radeon RX 9070 XT 16GB16GB GDDR6 · single-card node | 16 GB | 1,660 | 54.9 | 良好 | ~454W | $800 | $2,000 | 36.6 | $0.075 | $1.63 | $5.63 | 501 天 | 中位数 ↗ | |
| Mac Studio M5 Ultra 256 GB36 核 CPU · 80 核 GPU · 256GB 统一内存 | 256 GB | 3,441.5 | 155 | 良好 | ~360W | — | $10,799 | 95.3 | $0.076 | $1.30 | $14.68 | 808 天 | 中位数 ↗ | |
| 2× RTX 5060 Ti每卡 16GB · 双卡节点 | 32 GB | 1,602 | 67.6 | 良好 | 480W | $1,760 | $2,960 | 42.3 | $0.079 | $1.73 | $6.52 | 618 天 | 中位数 ↗ | |
| RTX 5070 12 GB12GB GDDR7 · single-card node | 12 GB | 1,443.2 | 48.3 | 良好 | ~400W | $835 | $2,035 | 32.1 | $0.080 | $1.44 | $4.94 | 582 天 | 中位数 ↗ | |
| 2x RTX 3090 24 GB24 GB each · dual-card layer split | 48 GB | 2,137.6 | 111.3 | 偏紧 | ~850W | $2,798 | $3,998 | 65.5 | $0.080 | $3.06 | $10.08 | 570 天 | 中位数 ↗ | |
| Mac Studio M5 Max 128 GB40 核 GPU · 128GB 统一内存 | 128 GB | 2,146.5 | 65.2 | 良好 | ~180W | — | $5,399 | 44.3 | $0.081 | $0.65 | $6.82 | 876 天 | 中位数 ↗ | |
| Ryzen AI Max+ 395 128 GBRadeon 8060S · 128GB 统一内存 | 128 GB | 1,242.7 | 47.5 | 良好 | ~170W | — | $3,500 | 30.5 | $0.083 | $0.61 | $4.70 | 856 天 | 中位数 ↗ | |
| 2× AMD Radeon AI PRO R9700 32 GB32 GB each · dual-card node · card-set price derived: 2 × $1,699.99; no observed pair listing | 64 GB | 4,244.5 | 79.2 | 良好 | ~750W | $3,400 | $4,600 | 58.6 | $0.089 | $2.70 | $9.02 | 729 天 | 中位数 ↗ | |
| Intel Arc Pro B7032GB GDDR6 | 32 GB | 782.8 | 51.4 | 良好 | 350W | $1,300 | $2,500 | 27.9 | $0.094 | $1.26 | $4.30 | 823 天 | 中位数 ↗ | |
| MacBook Pro M5 Max 128 GB128GB 统一内存 | 128 GB | 1,245.5 | 77.6 | 良好 | 120W | — | $6,699 | 43 | $0.096 | $0.43 | $6.62 | 1,084 天 | 中位数 ↗ | |
| DGX Spark128GB 统一内存 | 128 GB | 2,228.5 | 48.7 | 良好 | 170W | — | $5,100 | 35.2 | $0.097 | $0.61 | $5.41 | 1,062 天 | 中位数 ↗ | |
| 2x TITAN RTX 24 GB24 GB each · dual-card layer split | 48 GB | 1,713.4 | 66.1 | 良好 | ~710W | $1,681 | $2,881 | 42.4 | $0.098 | $2.56 | $6.53 | 726 天 | 中位数 ↗ | |
| Intel Arc Pro B60 24GB24GB GDDR6 · single-card node | 24 GB | 1,034 | 35.5 | 良好 | ~350W | $750 | $1,950 | 23.4 | $0.099 | $1.26 | $3.61 | 831 天 | 中位数 ↗ | |
| 2x RTX 3060 12 GB12 GB each · dual-card layer split | 24 GB | 1,239.8 | 41.3 | 良好 | ~490W | $614 | $1,814 | 27.4 | $0.101 | $1.76 | $4.22 | 738 天 | 中位数 ↗ | |
| RTX PRO 6000 Blackwell96GB GDDR7 ECC | 96 GB | 8,987.9 | 171.1 | 良好 | 720W | $18,000 | $19,200 | 126.2 | $0.104 | $2.59 | $19.43 | 1,140 天 | 中位数 ↗ | |
| AMD Radeon RX 6900 XT 16GB16GB GDDR6 · single-card node | 16 GB | 466 | 47.6 | 良好 | ~450W | $469 | $1,669 | 21.4 | $0.118 | $1.62 | $3.30 | 994 天 | 中位数 ↗ | |
| 2x AMD Radeon RX 6900 XT 16GB16 GB each · dual-card layer split | 32 GB | 772.3 | 63 | 良好 | ~750W | $938 | $2,138 | 31.4 | $0.123 | $2.70 | $4.83 | 1,002 天 | 中位数 ↗ | |
| RTX 3060 12 GB12 GB GDDR6 · single-card node; host RAM offload | 12 GB | 820 | 20.2 | 良好 | ~320W | $360 | $1,560 | 14.3 | $0.140 | $1.15 | $2.20 | 1,489 天 | 中位数 ↗ | |
| Mac Studio M5 Max 64 GB40 核 GPU · 64GB 统一内存 | 64 GB | ~517.9 | ~36 | 良好 | ~180W | — | $3,799 | 19.1 | $0.143 | $0.65 | $2.95 | 1,653 天 | 估算 | |
| Mac mini M5 Pro 64 GB18 核 CPU · 20 核 GPU · 64GB 统一内存 | 64 GB | 430 | 19.2 | 良好 | ~110W | — | $2,899 | 11.8 | $0.168 | $0.40 | $1.82 | 2,030 天 | 中位数 ↗ | |
| MacBook Pro M5 Max 64 GB40 核 GPU · 64GB 统一内存 · 来源未披露机身尺寸 | 64 GB | 517.9 | 36 | 良好 | ~120W | — | $5,099 | 19.1 | $0.169 | $0.43 | $2.95 | 2,028 天 | 中位数 ↗ | |
| Mac Studio M4 Max 128 GB有来源支持的 oMLX 配置 | 128 GB | 446.8 | 32.5 | 良好 | 145W | — | $6,500 | 17 | $0.241 | $0.52 | $2.61 | 3,111 天 | 中位数 ↗ | |
| Mac Studio M3 Ultra 512 GB80 核 · 512GB 统一内存 | 512 GB | 479.6 | 18.1 | 良好 | 330W | — | $9,499 | 11.7 | $0.548 | $1.19 | $1.80 | 15,577 天 | 中位数 ↗ | |
| RTX 4070 12 GB12GB board-dependent GDDR6/GDDR6X · single-card node | 12 GB | 1,376 | 36.9 | 良好 | ~350W | 待补充 | — | 25.7 | 待补充 | — | — | — | 中位数 ↗ | |
| RTX 4080 16GB16GB GDDR6X · stock single-card node; host RAM separate | 16 GB | 1,996.3 | 66 | 良好 | ~470W | 待补充 | — | 43.9 | 待补充 | — | — | — | 中位数 ↗ | |
能力 效率 成本 ~ 按硬件比例缩放的速率估算或证据不完整
假设
90% reading / 10% writing · 24 active h/day
整机功耗 · Qwen3.8 27B · 常规本地使用
透明计算
GPU 整机总价 = GPU 价格 + $1,200 主机本地 $/MM =（能耗 + 硬件摊销）/ 每日产能回本天数 = 整机总价 /（每日 API 等值 − 每日能耗）单用户顺序模型：读取时间 + 写入时间；不假设并发或重叠。
证据数据
打开已发布硬件记录背后的来源分布。
方法
表格背后的测试条件。
性能采用来源可见、MTP 就绪的中位数。下方经济性可调，因为它描述你的使用方式，而不是基准运行本身。
分指标中位数
读取（prefill）与写入（decode）分别取中位数。点击 Median 后仍可查看量化、上下文、运行时、拓扑和草稿深度等来源条件。
证据标签
Median 链接到来源分布。~ 速率估算根据已测量和已报告的读取/写入数据采用公开的保守硬件比例缩放，始终与来源中位数分开。Pending 表示尚未收集常规路径来源指标。
定价依据
独立显卡整机总价由记录的 GPU 价格加 $1,200 主机/平台预算构成。回本期以整机总价除以每日 API 等值减直接电费计算，不构成投资回报保证。