字节豆包大模型已支持实时语音通话
科技
科技 > 人工智能 > 正文

字节豆包大模型已支持实时语音通话

IT 之家 8 月 9 日消息,字节跳动旗下火山引擎今日宣布推出对话式 AI 实时交互解决方案,搭载火山方舟大模型服务平台。

该方案通过火山引擎 RTC 实现语音数据的采集、处理和传输,并深度整合豆包・语音识别模型和豆包・语音合成模型,简化语音到文本和文本到语音的转换过程,提供智能对话和自然语言处理能力,帮助应用实现用户和云端大模型的实时语音通话。

▲ 对话式 AI 实时交互服务方案架构

字节跳动介绍称,对话式 AI 实时交互解决方案支持开箱即用快速搭建,只需调用标准的 OpenAPI 接口即可配置所需的语音识别(ASR)、大语音模型(LLM)、语音合成(TTS)类型和参数。而火山引擎 AIGC RTC-Server 负责边缘用户接入、云端资源调度、文本与语音转换处理以及数据订阅传输等环节。

该技术拥有三大亮点:

支持随时打断,甚至直接插话;

不受限于 AI 服务部署区域,整体响应延时可低至 1s;

客户端提供音频帧级别的语音活动性检测(VAD),可以检测出音频信号中何时有人正在说话,何时是静默状态。

IT 之家附火山引擎对话式 AI 实时交互 Demo 如下:

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载