标签「speculative-decoding」的 Agents

共 1 个结果
speculative-decoding ×
开发与工程

mlx-serve:Apple Silicon 本地模型推理引擎

在 Mac 上原生运行任意 LLM,兼容 OpenAI、Anthropic 与 Ollama API,无需 Python,速度超越 LM Studio。

48 · 缺口较多 ★ 2k · 今天