Breeze TTS 2:BreezeBlue推出的面向实时交互的可控流式语音合成模型

AI新闻 97ai
85

一、Breeze TTS 2是什么

Breeze TTS 2是国内AI语音企业BreezeBlue(上海微风蓝科技)发布的新一代TTS语音合成模型。它专门面向实时人机交互场景,将语音设计、角色演绎、低延迟流式生成整合为一体化模型,不再局限传统TTS的静态配音能力,重点解决交互式对话中音色自定义、情绪动态调控、对话低延迟三大痛点。

该模型同步开源三套专属评测基准:语音设计、语音演绎、延迟评测基准,弥补行业多数TTS只做语音自然度评测的短板;在Artificial Analysis语音竞技场开源模型榜单取得Elo 1215分,为同梯队推理成本更低的模型,主打游戏NPC、AI陪伴、交互式故事、语音智能代理业务落地。

二、功能特色

1. Voice Design 语音设计

不依赖内置预制音色库,通过自然语言描述角色人设、性格、世界观,直接生成全新专属嗓音。

  • 角色匹配得分78.02,语音多样性指标708,文本通过率98.5%;相比同类模型,角色匹配得分高出5.24,可生成独特音色数量提升39%。

  • 覆盖动漫、游戏角色、影视戏剧、神话、纪实播报等多元人设,开发者可以为每一个虚拟角色独立生成专属声线。

2. Voice Direction 语音演绎

不更换角色嗓音的前提下,使用自然语言提示、行业表演标签控制语音输出。

  • 可动态调整情绪、说话意图、语速节奏、表达方式;同一个角色声线,可切换平静、激动、忧伤、调侃等多种表演状态。

  • 语音演绎基准得分4.25,领先同级别竞品,适配对话过程中情绪随上下文动态变化的交互需求。

3. 流式低延迟生成

原生支持流式输出,文本分段输入、音频边生成边输出,降低对话等待耗时,满足实时打断、连续对话的交互需求,适配AI Agent实时语音对话。

4. 一体化单模型架构

语音生成、人设生成、表演控制全部集成在同一个模型,无需串联多个外部子模型,减少系统调用链路,降低工程部署复杂度。

Breeze TTS 2(图1)

三、技术细节

  1. 架构设计:端到端一体化TTS架构,将角色描述文本、表演控制提示、待朗读文本统一送入模型,一次性输出声学波形,避免多模型串联带来的延迟与误差累积。

  2. 两大提示输入通道

    • 角色提示通道:接收自然语言角色描述,用于生成专属音色特征。

    • 演绎提示通道:接收情绪、语气、语速指令,控制同一声线的表演变化。

  3. 流式推理:支持token级别流式输出,音频分片实时返回,适配全双工语音交互,支持对话中途打断。

  4. 自研评测基准开源

    • 语音设计基准:评估文字描述生成音色和人设的匹配度、音色多样性。

    • 语音演绎基准:评估同一音色下情绪、语气指令的执行效果。

    • 延迟评测基准:专门测试交互场景端到端推理耗时。

  5. 榜单表现:Artificial Analysis Provider Voices竞技场,开源权重Elo 1215,开源组领先第二名90分,具备较低推理成本,适合批量部署。

模型定位区别于传统成品配音TTS:传统TTS优先长文本录音级配音;Breeze TTS2优先动态交互对话场景。

四、应用场景

  • 游戏交互NPC:为大量游戏角色生成独一无二嗓音,对话时根据剧情动态切换情绪语气,实时流式语音反馈。

  • AI陪伴/数字人对话:AI聊天数字人,对话上下文变化同步调整说话情绪,支持随时打断交互。

  • 交互式故事、有声互动剧本:故事角色动态生成声线,剧情转折同步改变演绎状态。

  • 语音智能代理、AI-Agent:大模型配套语音层,完成低延迟实时语音问答。

  • 虚拟主播、互动短剧:批量生成角色音色,根据脚本指令完成多情绪演绎。

  • 开发者API服务:企业集成语音SDK,构建自有语音交互产品。

五、使用方法

网页端试用

  1. 打开官方产品页面 https://breezeblue.ai/breeze-tts-2

  2. 在角色描述框输入自然语言人设描述(年龄、性格、身份背景)

  3. 输入演绎提示,指定情绪、语速、说话风格

  4. 粘贴待朗读文本,提交生成,试听流式输出音频

  5. 满意后导出音频文件,开发者可跳转开发者文档接入API。

开发者集成方式

  1. 注册BreezeBlue开发者账号,申请API密钥。

  2. 请求参数包含三部分:角色描述prompt、演绎控制prompt、待合成文本。

  3. 开启stream流式参数,获取分片音频流,实现实时对话;关闭流式则返回完整音频文件。

  4. 支持业务侧做二次封装,接入游戏引擎、数字人框架、AI Agent后端。

注意:网页端为体验入口,大规模业务部署建议调用官方API接口。 

六、竞品对比

选取行业主流交互向TTS模型做横向对比,聚焦交互、角色自定义、情绪可控能力:

项目 Breeze TTS 2 ElevenLabs Fish-TTS S2 Pro
核心定位 实时交互一体化TTS,文生全新角色嗓音 通用TTS,支持音色克隆 开源本地部署TTS,侧重克隆与配音
语音生成方式 自然语言描述生成全新音色,非克隆 预制音色+声音克隆 音色克隆为主,原生文生角色能力弱
同音色情绪控制 自然语言提示驱动,细粒度表演控制 基础情绪参数调节 参数调节,缺少自然语言演绎指令
流式交互延迟 原生流式架构,面向对话交互优化 支持流式,面向成品配音优先 支持流式,本地部署性能取决于硬件
开源情况 评测基准开源,模型权重开源 不开源商业闭源 权重开源可本地部署
突出优势 角色生成+演绎+低延迟一体化,交互评测基准 音色自然度高,生态成熟 本地私有化部署,中文效果优秀

七、常见问题解答

Q:Breeze TTS 2支持声音克隆吗?

A:官方主打通过文字描述生成全新原创嗓音,并非以声音克隆作为核心能力;不把音频样本克隆音色作为主要功能,规避声音克隆带来的版权与伦理风险。

Q:Breeze TTS 2适合做长文本有声书录制吗?

A:模型优先面向实时交互对话场景。长文本静态配音可以使用,但长篇章朗读并非它的最优场景,长有声书项目更适合传统成品向TTS。

Q:开源评测基准可以直接拿来做自己模型测试吗?

A:三套评测基准已对外开源,开发者可以下载数据集与评测脚本,用来客观衡量自家TTS在角色生成、语音演绎、交互延迟维度的表现。

Q:部署Breeze TTS2对硬件有什么要求?

A:权重开源版本本地推理需要较高显存,普通开发者优先使用官方API;企业私有化部署需要匹配中高端GPU算力资源。

Q:支持哪些语种?

A:优先优化中文、英文,其他语种能力会持续迭代更新,交互场景中英文表现最优。

Q:流式输出和普通TTS有什么区别?

A:普通TTS需要接收全部文本再输出完整音频;流式模式文本输入一部分,音频就输出一部分,对话场景减少用户等待,支持打断,是AI交互代理的关键能力。

八、相关链接

九、总结

Breeze TTS 2是一款聚焦实时交互赛道的一体化AI语音合成模型,跳出传统TTS以成品配音为核心的思路,把文字生成角色嗓音、细粒度语音表演控制、低延迟流式能力整合在一套模型内,同时开放交互场景专用评测基准,为游戏NPC、AI陪伴、语音Agent等交互类产品提供一套完整语音基础设施,在开源TTS模型中交互综合能力处于第一梯队。

打赏
THE END
作者头像
97ai
我不是在训练模型,而是在与未来的自己对话。