Gemini 3.8 Live:Google推出的实时双向多模态语音AI模型

AI新闻 AI工具箱
87

一、Gemini 3.8 Live是什么

Gemini 3.8 Live是Google DeepMind推出的原生双向实时语音多模态模型,包含两个版本:标准版gemini-3.8-live与增强推理版gemini-3.8-live-extended-thinking,主打低延迟音视频图文实时交互,支持对话打断、多语言自动切换、后台并行工具调用,面向开发者构建生产级语音智能体,同时面向普通用户提供实时语音交互体验。

标准版侧重低成本、大规模低延迟语音对话;Extended Thinking扩展思考版支持对话过程中后台执行复杂多步骤推理,在运算的同时持续语音输出,不会出现对话中断、空白停顿的问题,适合复杂任务语音Agent开发。

二、功能特色

  1. 实时多模态流式交互:音频、图片、视频、文本流实时输入输出,支持摄像头画面实时视觉理解,边看画面边语音问答,实现视觉接地能力。

  2. 自然对话打断:支持随时插话打断模型输出,复刻真人对话体验,不用等待模型说完。

  3. 97种语言自动识别切换:对话中途无需手动设置语种,可自动识别并切换语言,支持混合语种对话。

  4. 后台并行工具调用:模型语音输出不中断,同时在后台执行函数调用、联网查询等操作,消除等待空白。

  5. AI语音水印SynthID:模型生成的语音内置SynthID水印,可识别区分AI合成语音,提升内容溯源能力。

  6. 双版本差异化定位:标准版主打大规模场景、成本可控;扩展思考版支持thinking_level推理参数配置,处理复杂多步骤任务。

Gemini 3.8 Live

三、技术细节

  • 模型ID:gemini-3.8-live、gemini-3.8-live-extended-thinking

  • 上下文窗口:最大输入131072 token

  • 通信协议:WebSocket Live API,流式双向音视频传输

  • 基准测试指标(Extended Thinking版本)

    • Speech to Speech Quality Index:82.6

    • Big Bench Audio:97.7%

    • τ-Voice语音任务完成率:68.6%

  • 运行模式:标准版支持实时双向交互;Extended Thinking仅支持异步模式,后台并行推理

  • 核心底层机制:采用并行推理架构,语音流输出与工具调用、复杂推理任务异步执行,解决传统语音AI思考时对话卡顿空白的痛点;原生音视频多模态融合,不是简单的语音转文字+大模型+文字转语音拼接方案。

四、应用场景

  • 企业实时语音客服、电话语音智能体,自动接待、查询、预约

  • 硬件设备端实时语音+视觉交互,智能硬件语音助手

  • 实时语音翻译、现场图文语音问答、远程设备故障语音排查

  • 在线教育语音辅导,边看习题画面边语音讲解

  • 个人实时语音助手,结合摄像头识图、多语言实时对话

五、使用方法

普通用户使用

可直接在Gemini App、Google Search Live、Google Workspace中使用Gemini 3.8 Live语音实时对话功能,开启语音交互,支持调用手机摄像头同步传输画面,一边展示图片/实物一边语音提问。

开发者接入

  1. 进入Google AI Studio,获取API密钥;

  2. 使用WebSocket Live API接入,指定模型ID;

  3. 构建双向音视频流,配置是否开启Extended Thinking;

  4. 配置工具调用权限,实现联网、函数调用;

  5. 调试打断机制、多语言识别、视觉输入流;

  6. 上线生产环境,支持按量计费,包含免费额度。

六、竞品对比

模型 出品方 核心优势 主要短板 适用场景
Gemini 3.8 Live Extended Thinking Google DeepMind 原生音视频多模态,97种语言自动切换,后台并行工具调用,语音基准分数高 企业私有化部署处于私有预览阶段 带视觉输入的复杂语音Agent、现场音视频交互
GPT-4o Realtime API OpenAI 开发者生态成熟、文档丰富,社区案例多,WebRTC工具完善 原生视觉实时能力弱于Gemini 3.8 Live 纯语音实时对话、电话客服语音Agent
Amazon Nova Sonic Amazon 单价低,官方宣称低延迟,深度对接AWS云原生 多模态视觉能力有限,复杂推理能力一般 大规模低成本纯语音呼叫场景

七、常见问题解答

问:Gemini 3.8 Live和Gemini 3.8 Live Extended Thinking最核心差别是什么?

答:标准版Gemini 3.8 Live主打低延迟、低成本,适合高并发、简单语音对话场景;Extended Thinking扩展思考版,支持后台并行深度多步推理,在模型思考、调用工具的时候不会中断语音输出,但是只能使用异步模式,适合预约、故障排查这类复杂多步骤语音任务。

问:是否支持本地部署?

答:目前没有开放本地部署版本,只能通过Google Gemini API、Google AI Studio云端调用;企业私有化版本Gemini Enterprise处于私有预览阶段。

问:模型支持哪些输入形式?

答:支持实时音频流、摄像头视频流、图片、文本同时输入,多模态混合输入,模型可以同时理解语音和画面信息。

问:对话里可以随时打断AI说话吗?

答:支持,原生支持barge-in打断机制,用户可以随时插话,不需要等模型把整段语音输出完毕。

问:生成的AI语音自带水印,水印会影响听感吗?

答:SynthID水印为不可感知水印,人耳无法分辨,不会影响语音流畅度,仅用于机器识别,溯源AI生成语音。

八、总结

Gemini 3.8 Live是Google面向实时语音交互赛道推出的原生多模态语音模型,分为标准版与扩展思考两个版本,依托并行推理架构解决传统语音AI思考停顿的痛点,融合音频、视频、图像实时理解能力,支持多语言自动切换与对话打断,兼顾普通用户实时语音体验和开发者构建生产级语音智能体的需求,在音视频一体化实时交互上形成差异化能力,开发者可通过Gemini WebSocket Live API快速接入。

打赏
THE END
作者头像
AI工具箱
一个喜欢收集AI工具的小萌新