ModelDock 技术洞见

本地 AI 系统在真实工作中的行为。

关于模型运行时、上下文、硬件和智能体行为如何相互影响的简明实用笔记。它们用于解释，不取代基准测量结果。

最新硬件选择 · 阅读约 10 分钟

本地 AI 硬件的性价比前沿

哪些机器花同样的钱能换来最多的本地 AI 算力：价格对日产量、写入速度和读取速度的实时帕累托前沿，以及背后的计算方法。

洞见文库

基准数据仍留在 Benchmark 与 Data 页面；技术洞见解释这些数据可能如何影响真实工作负载。

哪些机器花同样的钱能换来最多的本地 AI 算力：价格对日产量、写入速度和读取速度的实时帕累托前沿，以及背后的计算方法。

一篇图解总览：专家缓存、CPU 与 GPU 同时工作、MTP 推测解码、PCIe 流式读取和双卡接力，并附与 llama.cpp 的实测对比。

基于可观测的 prefill 行为和重建成本，讨论智能体何时应压缩上下文的框架。