YuE2 是一个 3B 参数的前沿音乐生成模型。WildSongBench 上拿到 6.96 分,跟 Suno v5、Mureka 9 打平,开源 3B 模型站到了闭源前沿的同一水平线上。

港科大开源,12K Star,Apache-2.0 协议。
01 它解决什么
现在做音乐 AI,基本就两个流派。一派是"黑盒出歌":丢一句 prompt 进去,出完整音频,中间过程你看不到,改不了。Suno、Udio 都是这条线。
一派是"乐谱驱动":先有结构化乐谱,再渲染成音频。可问题是,传统乐谱工具(MIDI、MuseScore)生成不了完整的人声歌曲,你只能做纯器乐。
YuE2 把两条线焊起来了。它先出一份"可编辑乐谱"(旋律 + 和弦 + 歌词 + 结构),既能像 MIDI 一样手动改,又能像 Suno 一样渲染成带人声的完整歌曲。这是它最核心的卖点:白盒,但不牺牲音乐质量。
02 白盒音乐生成是怎么回事
YuE2 的架构分三步走:
- 符号规划(symbolic planning):输入一句歌词和风格描述,模型先出一份"旋律 + 和弦"方案,写成 ABC 乐谱格式。这份方案是显式的、可读的,你可以打开看它打算怎么唱、怎么配。
- 语义生成:把这份乐谱转成语义音乐 token,再预测声学 latent。
- 音频合成:VAE 解码成 48kHz 立体声音频,带人声和伴奏。
关键是第二步和第三步之间的"乐谱"。它不是一次性渲染,而是一份可以单独拿出来改的中间产物。

举个具体例子:你写了一首中文民谣,觉得和弦太保守。YuE2 把整份乐谱导出来,你(或 Agent)把副歌部分改成爵士和声,再重新渲染。出来的是同一首旋律的新版本,伴奏全变了。Suno 做不到这事。Suno 里你改不了"和弦",它只认 prompt。
03 三个能玩的高级操作
3.1 翻唱(zero-shot cover)
丢一段已发行歌曲进去,YuE2 配合 SheetSage2(音频转乐谱模型)把它转录成乐谱,你指定一个新风格,它按新风格重做。不用微调,零样本。948 首曲目测试里,带乐谱的翻唱 CLEWS mAP 0.647,不带乐谱的只有 0.006。乐谱是翻唱质量的分水岭。
3.2 对话修歌(agentic editing)
这是最"Agent 时代"的功能。demo 里他们拿《末班车》(The Last Train)做了 9 步、14 个版本:从中文流行歌一路改到英文爵士,加了一段萨克斯独奏。每一步都是自然语言对话——"副歌和声太满,简化一点""主歌第二段节奏再快半拍"——模型按对话改乐谱,重新渲染。
官方给了一个 yue2-music skill,接在 GPT-6 Astra 这类 Agent 上用。你说一句"帮我做一首安静的钢琴纯音乐",Agent 调用 YuE2 出歌。
3.3 自己写谱
不想让它自动生成旋律?直接喂一份 ABC 乐谱进去,它只负责把乐谱渲染成音频。这就是"纯乐谱驱动"模式,跟传统 MIDI 软件定位重合,但渲染出来带人声。
04 打平 Suno

WildSongBench 跑 192 条 prompt,自动评测四个指标(SongBench 综合、AudioBox 音质、MuLan 文本对齐、PER 人声错误率)。YuE2 best-of-8 拿 6.96 分(SongBench 均值),排所有参评设置第一。对比:Mureka 9(开源):6.94;Suno v5(闭源):6.87;Suno v6:6.56。YuE2 是公开权重的 3B 模型,Suno 是闭源黑盒。
05 门槛与上手
本地跑(高门槛):
- Linux + Python 3.12 + NVIDIA GPU
- 显存 24GB,支持 BF16
- 模型首次跑自动从 HuggingFace 下载
git clone https://github.com/multimodal-art-projection/YuE.git
cd YuE
python3.12 -m venv .venv
source .venv/bin/activate
pip install .
python examples/generate.py --output outputs/first-song
出来的目录里除了 MP3/FLAC,还有乐谱、语义 token、声学 latent、模型标识——每个中间态都留了。
低门槛路径:
- NOIZ 在线试用:yue.noizai.net,浏览器里免费出歌,不用装任何东西
- ComfyUI:官方有原生节点和 text-to-music 工作流
- Agent skill:npx skills add 或直接 clone 仓库里的 skills/yue2-music/
06 适合谁
适合:音乐制作人(想要"改得动的 AI 作曲")、研究者(3B 公开权重 + 完整技术报告)、做音乐 Agent 的开发者(yue2-music skill 已经把四类工作流封装好了)、想离线跑的独立音乐人。
不适合:只想"一键出歌"不想管任何中间态的、显存不够 24GB 且不想用在线版的。
07 写在最后
音乐 AI 走到"能改"这一步,才算真正进了工具层。YuE2 没发明音乐生成,它把"生成"拆成"写谱 + 渲染"两层。