智能体框架#文本转语音#语音转文字#多智能体

Pipecat:把实时语音 Agent 拆成即插即用管线的 Python 框架

Daily 维护的开源 Python 框架,语音识别、TTS、多模态管线即插即用,多 Agent 支持交接与并行扇出,客户端 SDK 覆盖七端。

项目资料

GitHub Ecosystem
仓库地址github.com/pipecat-ai/pipecat
许可证
BSD-2-Clause
主语言
Python
星标
16,847
核查时间
2026-10-27

以上快照资料以核查当日为准,可能随版本或运营策略变化。

一条语音 AI 流水线的示意:麦克风、波形、对话、模型、扬声器各环节排成传送带,服务卡片像 USB 设备一样即插即用,右上角是计时秒表

给客服、外呼或语音助手搭一条实时对话管线,模型调用之外的大头工作在工程侧:把 ASR、LLM、TTS、打断检测、传输协议这些环节以毫秒级延迟串起来,而且每换一家服务商就要重写一遍胶水代码。Pipecat 是 Daily 开源维护的 Python 框架(BSD-2-Clause),把语音识别、大模型、语音合成、多模态处理都做成可替换的标准化组件,你只写编排逻辑。它已经不只是单机器人框架:每条管线就是一个 Agent,多个 Agent 之间可以交接、并行扇出、共享总线,本地单进程或跨机分布式都行。仓库 2023 年 12 月建库,至今 16,847 Star,最新版 v1.14.0 于 2026 年 10 月 24 日发布,主分支当天仍有合并。

一条语音 AI 流水线的示意:麦克风、波形、对话、模型、扬声器各环节排成传送带,服务卡片像 USB 设备一样即插即用,右上角是计时秒表

核心功能

  • 服务可插拔:语音识别、TTS、LLM 各环节都有多家服务商的现成实现(README 的服务清单覆盖 OpenAI、Google、Cartesia、Deepgram、ElevenLabs 等主流供给),换供应商改一行构造参数,管线结构不动。
  • 多 Agent 编排:专家 Agent 交接、并行扇出、sidecar 辅助、共享总线四种模式内建,支持把一个对话系统的意图识别、业务问答、投诉处理拆给不同的专用管线。
  • 七端客户端 SDK:JavaScript、React、React Native、Swift、Kotlin、C++ 官方维护,连 ESP32 单片机都有;WebRTC 与 WebSocket 双传输,网页、手机和硬件设备都能接同一个后端。
  • 结构化对话:Pipecat Flows 内建,预定义或动态的对话路径带状态管理,表单收集、资格审核这类流程型任务不用在代码里手搓状态机。
  • 配套工具链:CLI 随包安装(pipecat init 一分钟脚手架一个可跑的机器人),Whisker 实时调试器查管线卡点,Pipecat UI 提供 shadcn 风格的语音界面组件,还有 Claude Code 技能包做脚手架和云端部署。

典型使用场景

  • 客服与外呼机器人:接电话音频流,ASR 进 LLM 出 TTS,打断、静音检测、延迟计时都是框架内建项。
  • 多模态交互应用:语音加视频流的教练、面试模拟、互动叙事,客户端用 React 或 Swift 直接接官方 SDK。
  • 本地化隐私方案:模型端点全部可替换,本地跑开源 ASR 与 TTS 时整个管线不出内网,这也是它在 r/LocalLLaMA 社区常见的玩法。

快速上手

需要先装 uv,然后:

uv tool install "pipecat-ai[cli]"
pipecat init

交互式选择电话或网页机器人、各家服务商,脚手架生成后按快速入门指南配好 API key 即可听到第一个能对话的机器人。已有项目则直接 uv add pipecat-ai,默认只装核心框架,按需再加服务商依赖。

小结

Pipecat 适合要把语音 Agent 从 demo 推向生产的团队:框架层把传输、打断、延迟这些脏活标准化了,换模型、换供应商不用动管线,客户端生态也齐。要诚实说三点:它是编排框架而非端到端产品,AI 服务的 key 和账单还是你自己的;生产部署通常配自家的 Pipecat Cloud,自托管要多花运维功夫;Python 单机进程的吞吐上限决定了超大规模还要自己拆分布式。和 LiveKit Agents 的对比是社区高频话题——LiveKit 强在自建 SFU 的媒体面,Pipecat 强在编排面的服务商中立。想给智能体补上「听」这一环的,还可以看 earshot 给编码 Agent 接入环境声音,或 AudioScript 做系统声音的实时双语字幕——Pipecat 则是把「说」这一整条链路工程化了。