
本地的声音工具,我准备这样用
杂货铺 · 第056篇
欢迎来到我的小铺,今天聊聊声音。
把文字、图片、视频都走通之后,声音是顺理成章要接上的拼图。跑了一圈下来,它成了整套体系里最不用我操心、但又必不可少的一环。这个不仅不费劲,甚至可以说成熟度高得让人有点意外。
我这里的声音工具分成两部分:一部分负责把文字读出来(配音、解说、声音克隆),放在 Mac 上跑;另一部分负责音乐生成,最近主要在用 YuE2。
一、门槛不高,对我来说够用了
说起 AI 做音乐,第一反应通常是 Suno。
Suno 确实好用,但商业平台的订阅机制对我这种非专业做音乐的人来说,稍微有点尴尬。平时需求不大,偶尔给视频垫一段音乐,长期挂着按月订阅不太值当;真到集中做内容的时候,又希望能多生成几版,慢慢挑。
所以,我把 YuE2 也放到了本地。
我这里用的是 YuE2-3B,加上配套的音频模型,单台 DGX Spark 就可以跑,不需要像之前的大模型或视频那样动用双机。按这次测试报告的记录,整条生成管线的内存峰值大约17GB。对我这台128GB统一内存的机器来说,占用不算大。
机器本来就在,部署好以后,需要音乐时就让 Agent 调用,也不用为了偶尔的一次需求长期挂着订阅。
我没有专业编曲的高端交付要求,主要看旋律是否入耳、结构是否完整,有没有明显的杂音和突兀的地方。按我自己的需求,YuE2 已经可以承担不少原本会交给 Suno 的工作。
二、常用的几种玩法,都已经跑过了
摸底的时候,我让 Agent 照着模型宣称的能力,从不同方向跑了一遍。
从常见的流行、爵士、电子,到带点戏曲元素、说唱,甚至《将进酒》这种文言文演唱,都放进去试了试;语言测了中文、英文、日文和粤语;纯音乐、短片段、带人声的歌曲,以及用已有旋律做翻唱,也都测到了。
这些方向都留下了生成结果。对我来说,背景音乐、歌曲和翻唱这几个主要用途,已经有了可以继续使用和挑选的基础。日文、粤语的具体唱感,还需要再听,不能只看自动测试分数。
有几个实际表现,可以给大家一个概念。
生成耗时不算长。 一段约50秒的英文歌曲,用了2分40秒左右;一段两分钟的带戏曲元素内容,用了约4分钟;一首接近3分钟的完整歌曲,大概4分40秒。交代完要求,让它在后台跑,过一会儿回来听就行。
短的十几秒,长的也能做。 这次生成了15秒的小段音乐、3分钟的背景配乐,以及几分钟的完整歌曲。长歌专项里,我把允许的时长设到15分钟,实际得到了一条约7分47秒、自然结束的音频,生成用了约8分半钟。
这里的时长设置更像一个上限,并不是让它必须唱满。歌词和内容走完了,它会提前结束;时间给得太少,也可能还没唱完就被截断。所以做完整歌曲时,我会把余量留足。
ABC 乐谱提供了继续修改的入口。 它可以用文本形式表达音符、速度、和弦等信息,Agent 也能直接处理。测试里,把同一份乐谱的速度从 BPM 93 改到140,重新生成后,时长从约177秒缩短到了约117秒,变化很直观。
我暂时还没有逐个音符精修的需求,但知道它可以从这里继续改,后面有了具体想法,也就有地方下手。
三、它看似很“轻”,但在搭配中不可或缺
在我的整个本地工作流里,声音这一块的分工现在非常清楚:
- Mac 负责“说”(TTS):用 Qwen3-TTS 或 VoxCPM2。轻快省电,吐字发音清晰,专门处理文章朗读、视频解说旁白和个人声音克隆;
- 显卡负责“唱与奏”(YuE2):负责一切与音乐和氛围有关的事情。
之所以说它省心,是因为跟做视频比起来,音乐是个“低摩擦”的工具。
做视频需要一帧一帧去盯物理规律,看伞有没有变形、盆有没有移位;而音乐生成只要基调对了、旋律搭调,几乎不需要做反复痛苦的微调。但这个“轻”,并不代表它可有可无。
恰恰相反,在接下来的内容搭配里,它能挑起的大梁太多了:
- 做独立游戏,场景里循环的氛围 BGM、环境氛围音乐,都可以从这里随时批量试样;
- 做短视频,不用再去四处翻免版权音乐库,十几秒的片头或一分半钟的配乐,几分钟就能按画面的情绪定制出来;
- 以后想做个剧情 PV 甚至一首歌的完整 MV,歌曲也可以先在本地生成,再围着它做画面。
它就像一块极好的润滑剂。画面哪怕有些生硬,一段贴切的音乐铺在底下,整个作品的气氛立刻就立起来了。
四、结语
折腾完这几篇,需要的几类基础工具,现在都有了。
LLM负责理清想法,qwen负责画出画面,MiniMax H3负责让镜头动起来,而声音——无论是说话还是配乐,在本地随时都能调用。
音乐这一块没有那么多曲折的故事,它的好处就在于“成熟、稳定、好用”。不需要每天为了它去研究新的复杂技巧,它安静地待在后台,等我需要的时候,随时给作品把情绪垫好。
多模态的这一套基础算是搭完了,接下来,就看怎么用它们做出真正完整的东西了。
感谢阅读。
哞小哞的杂货铺 · 第56篇 · 2026