10+年产品经理专注分享AI 工具、AI 资讯、AI Coding、Vibe Coding与下一代产品创新,按 Ctrl+D 收藏我们
关于我 留言板 标签云 排行榜

苏米客

  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
  • 登录
  • 首页
  • AIGC
    • AI最新动态
    • AI学习教程
    • AI工具集合
    • AI产品百科
    • AI编程开发
    • AI提示词
    • AI开源项目
    • AI智能体
  • Axure
    • Axure动态
    • Axure教程
  • 产品
    • 用户体验
    • 产品设计
    • 苏米杂谈
  • 资源
    • 产品UI组件库
    • 开源图标库
    • 中后台框架
  • 书单
    • AI书籍
    • 用户体验
    • UI视觉
    • 产品研究
    • 其他类型
  • 下载
    • Axure组件
    • Axure原型
    • 文档报告
    • 素材资源
当前位置: 首页 » AI开源项目

YuE2:港科大开源3B音乐生成模型,可编辑乐谱+对话修歌打平Suno v5

59分钟前 AI开源项目 0 0

YuE2 是一个 3B 参数的前沿音乐生成模型。WildSongBench 上拿到 6.96 分,跟 Suno v5、Mureka 9 打平,开源 3B 模型站到了闭源前沿的同一水平线上。

YuE2评分对比

港科大开源,12K Star,Apache-2.0 协议。

01 它解决什么

现在做音乐 AI,基本就两个流派。一派是"黑盒出歌":丢一句 prompt 进去,出完整音频,中间过程你看不到,改不了。Suno、Udio 都是这条线。

一派是"乐谱驱动":先有结构化乐谱,再渲染成音频。可问题是,传统乐谱工具(MIDI、MuseScore)生成不了完整的人声歌曲,你只能做纯器乐。

YuE2 把两条线焊起来了。它先出一份"可编辑乐谱"(旋律 + 和弦 + 歌词 + 结构),既能像 MIDI 一样手动改,又能像 Suno 一样渲染成带人声的完整歌曲。这是它最核心的卖点:白盒,但不牺牲音乐质量。

02 白盒音乐生成是怎么回事

YuE2 的架构分三步走:

  • 符号规划(symbolic planning):输入一句歌词和风格描述,模型先出一份"旋律 + 和弦"方案,写成 ABC 乐谱格式。这份方案是显式的、可读的,你可以打开看它打算怎么唱、怎么配。
  • 语义生成:把这份乐谱转成语义音乐 token,再预测声学 latent。
  • 音频合成:VAE 解码成 48kHz 立体声音频,带人声和伴奏。

关键是第二步和第三步之间的"乐谱"。它不是一次性渲染,而是一份可以单独拿出来改的中间产物。

YuE2架构

举个具体例子:你写了一首中文民谣,觉得和弦太保守。YuE2 把整份乐谱导出来,你(或 Agent)把副歌部分改成爵士和声,再重新渲染。出来的是同一首旋律的新版本,伴奏全变了。Suno 做不到这事。Suno 里你改不了"和弦",它只认 prompt。

03 三个能玩的高级操作

3.1 翻唱(zero-shot cover)

丢一段已发行歌曲进去,YuE2 配合 SheetSage2(音频转乐谱模型)把它转录成乐谱,你指定一个新风格,它按新风格重做。不用微调,零样本。948 首曲目测试里,带乐谱的翻唱 CLEWS mAP 0.647,不带乐谱的只有 0.006。乐谱是翻唱质量的分水岭。

3.2 对话修歌(agentic editing)

这是最"Agent 时代"的功能。demo 里他们拿《末班车》(The Last Train)做了 9 步、14 个版本:从中文流行歌一路改到英文爵士,加了一段萨克斯独奏。每一步都是自然语言对话——"副歌和声太满,简化一点""主歌第二段节奏再快半拍"——模型按对话改乐谱,重新渲染。

官方给了一个 yue2-music skill,接在 GPT-6 Astra 这类 Agent 上用。你说一句"帮我做一首安静的钢琴纯音乐",Agent 调用 YuE2 出歌。

3.3 自己写谱

不想让它自动生成旋律?直接喂一份 ABC 乐谱进去,它只负责把乐谱渲染成音频。这就是"纯乐谱驱动"模式,跟传统 MIDI 软件定位重合,但渲染出来带人声。

04 打平 Suno

WildSongBench评测

WildSongBench 跑 192 条 prompt,自动评测四个指标(SongBench 综合、AudioBox 音质、MuLan 文本对齐、PER 人声错误率)。YuE2 best-of-8 拿 6.96 分(SongBench 均值),排所有参评设置第一。对比:Mureka 9(开源):6.94;Suno v5(闭源):6.87;Suno v6:6.56。YuE2 是公开权重的 3B 模型,Suno 是闭源黑盒。

05 门槛与上手

本地跑(高门槛):

  • Linux + Python 3.12 + NVIDIA GPU
  • 显存 24GB,支持 BF16
  • 模型首次跑自动从 HuggingFace 下载
git clone https://github.com/multimodal-art-projection/YuE.git
cd YuE
python3.12 -m venv .venv
source .venv/bin/activate
pip install .
python examples/generate.py --output outputs/first-song

出来的目录里除了 MP3/FLAC,还有乐谱、语义 token、声学 latent、模型标识——每个中间态都留了。

低门槛路径:

  • NOIZ 在线试用:yue.noizai.net,浏览器里免费出歌,不用装任何东西
  • ComfyUI:官方有原生节点和 text-to-music 工作流
  • Agent skill:npx skills add 或直接 clone 仓库里的 skills/yue2-music/

06 适合谁

适合:音乐制作人(想要"改得动的 AI 作曲")、研究者(3B 公开权重 + 完整技术报告)、做音乐 Agent 的开发者(yue2-music skill 已经把四类工作流封装好了)、想离线跑的独立音乐人。

不适合:只想"一键出歌"不想管任何中间态的、显存不够 24GB 且不想用在线版的。

07 写在最后

音乐 AI 走到"能改"这一步,才算真正进了工具层。YuE2 没发明音乐生成,它把"生成"拆成"写谱 + 渲染"两层。

Github:https://github.com/multimodal-art-projection/YuE

声明:本站原创文章文字版权归本站所有,转载务必注明作者和出处;本站转载文章仅仅代表原作者观点,不代表本站立场,图文版权归原作者所有。如有侵权,请联系我们删除。
未经允许不得转载:YuE2:港科大开源3B音乐生成模型,可编辑乐谱+对话修歌打平Suno v5
#开源 #音乐生成 #YuE2 #AI音乐 #港科大 
收藏 1
REA:开源MCP逆向工程工具,让Claude代码分析二进制文件和Electron应用
anything2explainer:2小时生成科普MG讲解视频,代码渲染确定性视频全流水线
推荐阅读
  • WSL Dashboard:10 年来终于有人做了 WSL 可视化管理
  • rmux:专为 Agent 打造的 Rust 终端复用工具,兼容 tmux
  • Evolver:为OpenClaw智能体赋予自我进化能力的开源引擎
  • Claude Code 源码泄露催生 Claw Code:129K Star 刷新 GitHub 纪录,洁净室重构典范
  • 3 个近期 GitHub 热门开源项目:Buzz 协作平台、OpenMinis 手机 Linux 沙箱、Bento 单文件幻灯片
评论 (0)
请登录后发表评论
分类精选
WeKnora:终于等到了腾讯ima的开源知识库框架,用 API 轻松打造本地智能文档检索
13043 1年前
OpenSpec:比 Cursor Plan 更聪明?试试这款让 AI 编码更靠谱的规范驱动工具
11044 1年前
CapCut API:一个剪映API开源项目,让AI自动剪辑视频
10894 10月前
AIRI:你的开源AI女友,让你随时拥有属于自己的 AI VTuber
9798 1年前
Antigravity-Manager:这个开源神器让你白嫖ClaudeOpus 4.5,Gemini 3!还能接Claude Code等任意平台
9603 10月前
CompressO:开源免费的视频压缩神器,让你的硬盘瞬间轻松 10 倍
9121 1年前
就要创作:从提示词到创作团队,开源 AI 网文写作平台
9050 1年前
awesome-openclaw-skills:700+ Skills 一条命令装配完成,如何让本地 AI Agent 真正落地可用
8531 8月前
Claude Code 生成专业图表的 15 个 Skills:覆盖 7 种渲染引擎的完整指南
8457 6月前
baoyu-skills:又一个宝藏Skill,面向内容创作者的技能集,支持图文生成、发布与处理
8207 9月前

文章目录

关于苏米客
分类排行
1 REA+Reverse-skill+PentAGI三件套:用Codex逆向分析并复刻任何软件的完整工作流
2 SolidCraft:开源参数化3D CAD建模工具,支持浏览器运行+MCP接口+自动重算
3 anything2explainer:2小时生成科普MG讲解视频,代码渲染确定性视频全流水线
4 YuE2:港科大开源3B音乐生成模型,可编辑乐谱+对话修歌打平Suno v5
5 REA:开源MCP逆向工程工具,让Claude代码分析二进制文件和Electron应用
6 XERJ:7.2K Star的本地AI搜索引擎,一条命令索引整个文件替代Elasticsearch
7 Toonflow:1.6万Star的国产开源AI短剧平台,小说一键成片+MIT协议可商用
8 native-subtitle-quote-image:豆包工作+Skill自动化剪辑视频金句,自媒体内容流水线实测
9 ray-explainer:用Skill把观点变成带IP的解说视频,手绘白板双画风实测
10 lieflat-charts:5.7k Star的数据可视化Skill,3个场景让报告变海报
苏米客
登录 注册
显示
没有账号? · 立即注册
显示
已有账号? · 直接登录
登录代表你已同意 用户协议 和 隐私政策
©2015-2024 苏米客XMSUMI 版权所有 · WWW.XMSUMI.COM 闽ICP备14005900号-6 网站地图 百度地图
拉美跨境导航 微信文章助手 程序库 免费影视APP 免费字体下载 产品经理导航 爱克硕儿 产品经理AI资讯 Axure元件库下载 申请友联