#本地部署
OXR 1.3B 开源 OCR 模型实测:1 秒解析一页文档,本地部署 Agent 数据管道
OXR · 1.3B · DOCUMENT PARSING:把文档读对再交给 Agent。多栏、小票、表格、化学式——数据管道的入口,先把解析做好。
在三大主流基准评测(OmniDocBe…
YuE2开源音乐模型:免费无限制,本地部署AI音乐生成工具
如果你关注过 AI 音乐,一定听说过 Suno。这是目前做得最好的 AI 音乐平台之一,只需输入一句话,就能生成一首专业极强的音乐。但它的灵活度不够高——生成音乐没法精确修改,也没法基于一首已有歌曲做自定义调整。
…
Strata开源项目:12GB显存本地运行千亿参数大模型
很多人觉得本地部署模型容易,但参数小的模型干不了活,上千亿参数的大模型又跑不起来。
正巧这两天,GitHub 上有一个很火的开源项目Strata,已狂揽了 26000+ Star。使用它,能让我们在一台普通配置的游戏电脑上,也能跑起 125…
2026年最值得关注的10个开源Coding LLM:从云端API到本地GPU部署
开源 coding model 在 2026 年追上了前沿水平。DeepSeek V4 Pro 最近据报道在 SWE-bench Verified 基准测试中达到了 80.6%,与全球最昂贵的闭源模型并驾齐驱。但问题在于:当前最优秀的开源 …
Cursor 上线本地 Agent 远程控制:手机实时查看进度,代码不离开本机
Cursor 官方账号的公告只有一句话:你现在可以从手机上控制电脑里的 Agent 了
配套的官方 changelog 里新增了一页,标题是“本地智能体远程控制”(Remote Control for local a…
智谱 GLM-5.3 开放权重:Hacker News 热帖与本地部署指南
智谱海外品牌 Z.ai 在 Hacker News 上开放了 GLM-5.3 的模型权重(open-weight),引发了海外开发者关注。
Open-weight 不同于 open-source:用户可以拿到训练好的模型文件进行本地推理、微…
AirLLM:4GB 显存跑 70B 大模型的逐层加载推理方案
之前通过 Ollama、SGLang 在本地部署过大模型的朋友都知道,受限于显卡显存,基本上只能部署小参数且量化后的模型。
这些模型在本地跑基本是残血状态,拿来玩玩还可以,但效果往往差强人意。
最近在 GitHub 上发现一个 3 万 St…
MiniMax H3 本地部署教程:RTX 3060 即可运行,0 成本制作 AI 漫剧
MiniMax H3 现已上线。作为 33B 参数的开源全模态视频模型,支持最高 2K、24fps、15 秒视频输出,还可原生同步生成立体声音频,依托 Apache2.0 开源协议,RTX4090 这类消费级显卡就能本地部署,调用成本仅为同…
Light OCR:跑在本地的轻量 OCR 引擎,Node.js + C++ 原生支持
Light OCR 是一个运行在本地的 OCR 工具,面向 Node.js 和 C++ 开发者。不需要联网,安装后即可直接识别图片中的文字,返回识别内容、置信度和位置坐标。
核心特性
本地处理:图片和 OCR 结果始终留在本机,数据不外…
本地离线语音方案:SenseVoiceSmall + MeloTTS 组合实战指南
本地离线语音方案一直是开发者的痛点。云端语音服务虽然方便,但在电梯、地下车库、飞机上等无网场景完全失效。本文对比并推荐了"SenseVoiceSmall(语音识别)+ MeloTTS(语音合成)"组合,两个模型加起来不到 500MB,在普通…