Specter：用量化多步投机卸载加速单 GPU MoE 推理

Specter 是一个面向单 GPU MoE 推理的系统，把量化投机解码与专家卸载结合，用轻量量化草稿模型预测后续专家使用，提前组织专家搬运与执行以掩盖 PCIe 延迟。在单请求推理下，其每输出 token 耗时（TPOT）相对当前最优系统平均加速 1.50 倍，最高 1.88 倍。代码已开放在 https://github.com/wwwwwf/specter_asplos。