Fish Audio开源Drama 3:35B MoE语音模型用方括号当导演,词级情绪控制登顶发音榜

让AI配音不再"念稿",而是"演戏"——10月13日,Fish Audio发布开放权重的文本转语音模型Drama 3,权重已上架Hugging Face(fishaudio/drama-3),官方公告同日在X上的曝光量超过千万次。

Drama 3最大的变化,是把SSML标签式的语音控制换成了自然语言导演指令。你在文本里直接写方括号,模型就照办:

[excited]我们的新品今天正式发布! [whisper]但只有前一百名能拿到内部价。

情绪、语速、停顿都可以这样定点标注,甚至能对单个词施加效果、在句子中途切换语气或声音,也能插入笑声和环境音。对做有声书、音频剧、游戏对白和短视频配音的创作者来说,这意味着不用再整段重录——哪句不对改哪句。

架构:35B MoE,每token只激活3B

Drama 3骨干是约35B参数的混合专家模型,256路路由专家取8外加共享专家,每token仅激活约3B;语言塔从Qwen3.5-35B-A3B初始化。注意力部分为40层混合结构(三层Gated DeltaNet配一层全注意力),用来压住长脚本的KV开销;解码器用codebook-MTP因果预测10个声学codebook。有意思的是后训练策略:只用单一人类偏好奖励做GRPO,不挂规则式ASR奖励——目的很直接,别把你主动要求的笑声当噪声惩罚掉。

成绩单:发音鲁棒性93.2%登顶

在独立评测Artificial Analysis的Pronunciation Robustness榜上,Drama 3以93.2%的总分排第一(第二名S2.1 Pro为88.1%),其中品牌名/地名/术语读对率95.9%、上下文相关读法95.3%、路径邮箱等精确序列86.3%。速度方面,厂商给出的H200单卡数据:单流271 frames/s(上代S2约177),并发1时首包延迟p50为88.9毫秒,并发16时吞吐约927 frames/s、RTF 0.373。

功能上支持83种语言、最多16个说话人标签,覆盖多角色场景、语音克隆、局部编辑与长音频流式生成。

怎么用

  • API:POST api.fish.audio/v1/tts,Header指定model为drama-3;即日起至11月12日特价约10美元/百万字符(原价50美元),新订阅Plus/Pro/Max首月或首年五折;
  • 自部署:权重与fish-speech代码均开源,用SGLang-Omni一行命令起服务,建议48GB以上显存;
  • 许可证:Community License v1.0,研究和非商业免费,年营收低于50万美元可免费商用;对外提供TTS、克隆或推理服务需另行授权,未经同意克隆真人声音被明令禁止(启动视频里连Uncle Roger都来演示了被克隆后接受导演的全过程)。

背景

Fish Audio由前英伟达研究员Shijia Liao在2025年前后发起,从单GPU训练开源Fish Speech起家,一年内做到2100万美元ARR、用户超1500万,今年7月完成5200万美元种子轮,客户名单里有HeyGen、LiveKit和Retell。当封闭TTS还在比"谁更好听"时,Drama 3把"导演权"交还给了写脚本的人——这是它真正踩中的位置。