#部署
YuE2开源音乐模型:免费无限制,本地部署AI音乐生成工具
如果你关注过 AI 音乐,一定听说过 Suno。这是目前做得最好的 AI 音乐平台之一,只需输入一句话,就能生成一首专业极强的音乐。但它的灵活度不够高——生成音乐没法精确修改,也没法基于一首已有歌曲做自定义调整。
…
Strata开源项目:12GB显存本地运行千亿参数大模型
很多人觉得本地部署模型容易,但参数小的模型干不了活,上千亿参数的大模型又跑不起来。
正巧这两天,GitHub 上有一个很火的开源项目Strata,已狂揽了 26000+ Star。使用它,能让我们在一台普通配置的游戏电脑上,也能跑起 125…
Pi Agent 私有部署实战:交付前必须修改的 8 个默认值
给客户部署私有 AI 助手时,最让人头疼的往往不是框架本身,而是那些「出厂默认值」—— 它们是为个人开发者设计的,而不是为团队在企业内网中重度使用设计的。
最近我们把 Pi Agent 部署进一家制造企业的内网,客户…
2026年最值得关注的10个开源Coding LLM:从云端API到本地GPU部署
开源 coding model 在 2026 年追上了前沿水平。DeepSeek V4 Pro 最近据报道在 SWE-bench Verified 基准测试中达到了 80.6%,与全球最昂贵的闭源模型并驾齐驱。但问题在于:当前最优秀的开源 …
Cursor 上线本地 Agent 远程控制:手机实时查看进度,代码不离开本机
Cursor 官方账号的公告只有一句话:你现在可以从手机上控制电脑里的 Agent 了
配套的官方 changelog 里新增了一页,标题是“本地智能体远程控制”(Remote Control for local a…
24GB显存能部署多大模型?详解KV Cache与大模型显存需求计算
模型量化后只有 4GB 左右,显卡 24GB,为什么一开长上下文或多人并发就不够用了?原因是,模型文件大小不等于部署时的显存需求,大语言模型的推理部署也不能只看模型权重。
模型权重只是 GPU 的核心占用。模型运行时,还要为已经读过的内容保…
智谱 GLM-5.3 开放权重:Hacker News 热帖与本地部署指南
智谱海外品牌 Z.ai 在 Hacker News 上开放了 GLM-5.3 的模型权重(open-weight),引发了海外开发者关注。
Open-weight 不同于 open-source:用户可以拿到训练好的模型文件进行本地推理、微…
MiniMax H3 视频模型开源部署指南:含越狱编码器与提示词模板
MiniMax H3 视频生成模型正式开源,这是一个全模态视频生成系统,支持文字、图片、视频、音频多模态输入,输出最高 2K 分辨率、最长 15 秒、24FPS 的视频,音频是原生 32kHz 立体声。玩法包括文生视频、图生视频、视频生视频…
Claude Code 和 Codex 作为 DeepSeek Harness 子 Agent 实战:几分钟上手部署教程
DeepSeek Harness 终于开源啦,昨天早上的 DeepSeek V4 pro 发布说实话,确实让很多人失望,价格...能力
但没关系,DeepSeek 的 flash 依旧抗打,最重要的还是DeepSeek Harness开源了…
AirLLM:4GB 显存跑 70B 大模型的逐层加载推理方案
之前通过 Ollama、SGLang 在本地部署过大模型的朋友都知道,受限于显卡显存,基本上只能部署小参数且量化后的模型。
这些模型在本地跑基本是残血状态,拿来玩玩还可以,但效果往往差强人意。
最近在 GitHub 上发现一个 3 万 St…