Block 推出 Dessa 全双工语音模型:只用人声训练,能听能说同步进行

一句话概览

10 月 23 日,杰克·多西(Jack Dorsey)旗下的支付公司 Block 内部 AI 研究实验室发布了一款名为 Dessa 的语音对话模型。它的核心卖点相当激进:完全基于人类口语对话音频从零训练,不使用任何文本数据、不依赖任何预训练大模型,直接音频进、音频出,实现可本地运行的高度拟人化全双工语音交互。Block 称它是"全球首款只靠听人说话就学会真实实时对话的 AI"。

核心突破:不用一个字,只靠"听"

当下主流语音 AI 普遍走"语音识别 → 文本大模型 → 语音合成"的流水线:先把声音转成文字,交给大模型理解并生成回复文字,再合成为语音。这条链路会把语气、停顿、笑声、叹息、情绪重音等大量语音原生信息丢掉,交互生硬,也察觉不到说话人声音里的情绪变化。

Dessa 直接跳过文本环节。音频进、音频出,模型在端到端地学习"听"与"说"。Block 在官方页面写道:"我们完全用人类对话录音训练 Dessa,只有声音!没有文本,没有预训练模型。"团队把这套思路类比婴儿习得语言——婴儿从没见过任何写下来的字,却学会了说话,Dessa 想验证模型是否也能做到。

据 Block 介绍,Dessa 不仅学习语言内容,同时掌握了口音、呼吸、停顿、反讽、幽默感、语调情绪,以及"什么时候该插话"这类对话节奏。团队声称它学会语言所需的信息量远小于传统文本大模型——整套训练仅用单台英伟达 GB200 NVL72(约 72 张 Blackwell GPU)完成。

全双工:像真人一样抢话、附和

"全双工"(full-duplex)是 Dessa 互动自然感的关键。它一边收听一边说话,和真人聊天一样:可以中途插话、发出"嗯""明白"之类的附和语气词、在句子中间发笑;接到"大声点"的指令会主动提高音量;推理速度快于实时,消除了对话中尴尬的等待。

这与传统"你说完它再答"的半双工模式形成鲜明对比。实验室负责人 Ragavan Thurairatnam 把这次发布称为"语音领域的 GPT-3 时刻"。

情绪与韵律:原生听得到、也说得出

Dessa 原生地识别并输出笑声、倒吸气、沮丧的叹息、悲伤时声线的变化、讽刺语气。官方放出了多段无人工干预的真人实时对话录音 Demo:聊到趣事时句子中途发笑、听到惊喜消息小声惊呼、给出人生建议时流露共情。字幕是事后额外添加的,模型输出本身只有音频。

其中一段 Demo 里,Dessa 还与 OpenAI 的 GPT-Live-1 语音模型进行了跨 AI 对话,据 Block 描述,Dessa 一方显得更自然。当然 Demo 并非完美:一段广为流传的录音中,Dessa 开场就把对话者叫成了"Ronaldo"——而对方显然不是 Ronaldo。Block 选择把这种失误也展示出来。

为什么这么难:语音数据的"稀疏性"

Block 在官方页面解释了这条技术路线为何被人低估。文字是确定的:同一句话无论谁打,字节都一模一样;而语音永远不重复——即便把同一句话说两遍,声学数据也各不相同。从数据角度看,一个口语词占用的字节量是其书写形式的几千倍,而且重音落在不同词上,整句话的语义就会改变(页面举了一个靠重音改变含义的例句)。

正因如此,纯语音训练既要从比文本"少几百倍"的词量里学会语言,又要同时吸收口音、停顿、呼吸、讽刺、幽默、语调、插话时机等远超语言本身的信息。Block 认为这"非常难,但可行"。团队也坦诚留下开放研究问题:纯语音模型学习语言与事实的效率、掌握新语言的能力、以及能做哪种程度的上下文学习,都还有待探索。

训练与部署:一台 GB200,一台 MacBook

Dessa 的工程落地有两个反差鲜明的数字:训练侧,单台 NVIDIA GB200 NVL72 机架就跑完了全部训练;推理侧,它可以本地部署在 MacBook Pro M4 Max 或更高配置的设备上运行,且推理速度快于实时。对这类体量的语音模型来说,能跑在消费级笔记本上相当少见——这也意味着更低延迟、更好隐私与离线可用。

团队与安全动机

Dessa 来自 Block 一个很小的内部研究实验室,团队直接对多西汇报。实验室由 Ragavan Thurairatnam 领导,他正是原 Dessa 公司的联合创始人——那是一家多伦多的深度学习初创公司,以深度伪造检测闻名,2020 年被 Square/Block 收购。团队成员多在深度学习领域工作十余年,专注生成式语音模型超过八年。Block 列明的研究者约六人,外加若干实习生。

Block 给出了三个研发 Dessa 的理由:好奇(也就是好玩)、增进人与 AI 之间的理解、以及安全。安全动机尤其值得注意:AI 系统权力和自主性越来越强,却几乎对声音里的情绪信号"失聪"——如果一个人正处于痛苦中,语音助手仍可能机械应答、毫无察觉。Dessa 被视为弥补这一安全短板的一步。为此,Block 优先向一小群 AI 安全研究者开放早期访问,请他们找出团队尚未预见的风险,同时开放了公开 waitlist。

现状与边界

需要清醒看待的是,Dessa 目前是研究预览(research preview)状态:Block 尚未公开模型权重、API 接口,也没有发布正式技术论文和标准评测指标。整个发布主要由官方 Demo 录音和一个 waitlist 构成。截至目前,它声称是"有史以来最真实的全双工语音模型"仍是公司自己的说法,缺少独立第三方基准验证;对话质量、鲁棒性与多语言能力都还有待检验,距离大规模可用仍远。

意义

如果 Dessa 的宣称成立,它代表了一条与主流"文本大模型 + TTS"根本不同的技术路线:直接从语音里学习语言与交互模式,在情感表达和自然度上可能更具优势,也降低了对云端大模型的依赖。对 Block 这样同时握有 Square 与 Cash App 的母公司而言,这类能力未来有可能被集成进金融与社交产品。无论最终效果如何,Dessa 把"语音原生训练"和"端侧全双工"推到了聚光灯下,给语音 AI 的经济模型与隐私边界提供了一个值得对照的新样本。