手動開啟有點麻煩，但省下來的延遲是真香

幣界網消息，草稿模型開始退場，mtp（multi-token prediction，多token預測）推測解碼能力開始在本地推理前台應用。mtp的方法是在主模型裡加幾個輕量預測頭，讓模型提前猜測後續token，並自行驗證。上游模型已給出動作，deepseek-v3技術報告將mtp寫進訓練目標，說明該模塊可直接用於推理加速。下游推理框架和工具也開始適配，包括llama.cpp、vllm和lm studio等，使用者需下載支持mtp的模型並手動開啟。