VoxWeft：Apple Silicon 上本机同声传译，首段语音约 170 毫秒

同声传译通常要走云端：语音上传、翻译、再合成回来，一段话来回几秒，也把谈话内容交了出去。VoxWeft 是一个跑在 Apple Silicon 本地的开源同传系统，Apache-2.0 许可，语音进、译文语音出，全程不联网。它的核心是把 OpenBMB 的 VoxCPM2（2B 参数、30 种语言的 TTS，已有条目）移植到 Apple 的 MLX 框架，流式输出时首段音频约 170 毫秒（M5），还支持约 5 秒参考音频克隆声线。

核心功能

• VoxCPM2 的 MLX 移植：README 说零权重转换、AudioVAE 位精确，并按模块与官方 PyTorch 实现比对过。支持 4-bit 量化与约 5 秒参考音频克隆。
• 边说边切：运行时按帧做 RMS 静音检测，0.45 秒静音规则，6 秒后在第一个 100 毫秒以上的间隙强制切分，还有 carry 缓冲把一个 0.4 秒的「So,」接到下一段而不是丢掉。智能断句（SmartTurn v3）已接入但默认关闭，作者实测对同传是负收益。
• 任意语言对直译：西语到马来语、德语到越南语都是一跳，不经中文或英语中转；只有低资源目标语（老挝语、高棉语、缅甸语）才落到专门的 MT 模型。
• 打断真的打断：按住说话或按停止会取消进行中的回合，并断开到 TTS 的连接，M2 上下一句约 1 秒出来，而不是排在死回合后面排队 20 秒。
• 三层结构：L1 是 TTS 核心（可用 voxweft say 单独用）；L2 是分段、ASR、LLM 与 WebSocket 运行时；L3 是 CLI、MCP server 和一个约 700 行的 SwiftUI 外壳。
• MCP server：任何支持 MCP 的智能体（Claude Code、Codex、Cursor）可以指到克隆目录里的 venv，给智能体一个本机语音。

性能数据

以下数字是 README 给出的自测值，测量条件是基础 M2 16GB、关闭后台应用：

指标	M2 16GB	M5 16GB	M3 Ultra
TTS 首段音频（热）	303 毫秒	169 毫秒	124–168 毫秒
TTS RTF	1.47	0.94	约 0.2
三模型常驻内存	6.7 GB	6.7 GB	—
端到端：文本到首段译文音频	—	0.58 / 2.4 / 1.3 秒	—

README 明确写：在 M2 上整条管线被 TTS 拖住，RTF 1.47 意味着 5 秒语音要 7 秒才合成完；M3 Ultra 上三个模型都在实时线以下，管线真正流起来。它也不发布 BLEU 分，理由是翻译质量属于你接入的模型，这个仓库负责的是管线不在中间损耗它。

典型使用场景

• 需要保密的谈话场合：医疗、法务、内部会议，语音不出设备。
• 想给智能体加本机语音的开发者：MCP server 一个 JSON 块就能接上。
• 研究流式 TTS 的人：L1 的 MLX 移植本身就是一个可复用的成果，README 说按模块对照过官方实现。

快速上手

没有 PyPI 包，README 说这是故意的，源码即分发。需要 Apple Silicon 的 Mac、Python 3.10+，模型权重单独下载（docs/MODELS.md 有说明，HF 慢时可用 ModelScope 镜像）：

git clone https://github.com/HenryZ838978/VoxWeft && cd VoxWeft
python -m venv .venv && source .venv/bin/activate
pip install -e .              # 仅 TTS：合成、克隆、voxweft say
pip install -e ".[mcp]"       # 加 MCP server
pip install -e ".[runtime]"   # 加分段、ASR/LLM 适配器与 WebSocket 服务

小结

VoxWeft 适合有 Apple Silicon、想要本地同传或本机语音的开发者，尤其适合愿意自己下载模型权重、读文档排错的人。它不适合追求开箱即用的人：没有安装包，模型要自己下，权重不在仓库里。

几件事要先知道。第一，项目非常早期：README 的最后一次提交停在 2026 年 9 月 22 日，创建于 9 月 20 日，截至 2026-10-24 只有 10 颗星，没有社区验证。第二，默认 ASR 是 Qwen3-ASR 的 8-bit 版，低资源语言走 whisper-large-v3-turbo 时 README 自己承认质量差，老挝语可能被翻成泰文。第三，可选的 MT 兜底模型 NLLB-200 是 CC-BY-NC-4.0，只能研究用途，要主动开启。第四，所有延迟数字是作者在特定机器上自测的，README 诚实地写了测试条件（要先杀掉后台应用），换机器数字会变。

仓库创建于 2026 年 9 月 20 日，未归档，截至 2026-10-24 有 10 颗星，许可证为 Apache-2.0。我们核对了 README 与仓库元数据，没有安装运行。