#大模型
OlliteRT:把 Android 手机变成 OpenAI 兼容的本地大模型服务器
想在自己的设备上运行大模型,很多人首先想到的是一台配置不错的电脑:下载模型、配置环境、安装推理框架,再折腾接口和客户端。有没有更轻量的方式?如果手边有一台性能尚可的 Android 手机,或许可以换个思路:让手机本身运行模型,再通过标准 A…
7 款国产大模型横评:豆包、DeepSeek、Kimi 谁更强?编码写作实测对比
昨天刚分享了一篇国产模型订阅方案的对比,发完就有不少朋友问这几家国产模型要怎么选?刚好豆包工作已经把主流的国产旗舰模型基本都接进来了:豆包 2.1 Pro、DeepSeek V4 Pro 与 V4.1 Flash、Qwen 4 Max、Ki…
WorkBuddy 20款大模型实测排行:什么场景用什么模型,附2.2万积分账单分析
上周有朋友跑来问我:WorkBuddy 里那一长串模型,到底该点哪个?我说你先别问点哪个,你告诉我这活儿要干多久。
他愣了一下:「这还有关系?」
关系大了。我把三个月的账本翻出来一笔一笔算:22680.8 积分,其中有 9077.9 分,全…
LocModel 部署教程:本地运行 3 万亿参数 Kimi K3.1 Pro 模型
Moonshot AI 正式发布并开源了全新的 Kimi K3.1 Pro 模型,总参数规模达到了惊人的 3 万亿(3T),已经开放 Hugging Face 下载,谁都能拿到权重,本地或服务器随便部署。Kimi K3.1 Pro 是一个原…
北大开源Omni-Edu教育模型:4B到27B三档全开源,课标对齐与错因诊断
北大放出一个教育大模型 Omni-Edu,专做中小学教学。题目能解,错因能找,还知道这题挂在哪个课标上。4B 到 27B 三档,全开源,Apache-2.0 协议。
它是什么
一个面向 K12 的学习加教学模型,带一篇 arXiv 论文(…
LLM2Jev开源工具:不改模型零训练,直读logits实现决策概率推理10倍速
大模型做选择题时,如果让它生成JSON再解析出概率,数字可能是编的,格式崩一次就得重来。LLM2Jev把这条链路整个换掉了——让本地LLM/VLM做一次prefill,不生成任何token,直接从最后一层logits…
DeepSeek 10 个顶级开源项目盘点:从 DeepSeek-Math 到 Harness 的全链路解析
DeepSeek 最近两周动作频频。先是 V4.1-Flash-1017 基于旧版完成训练后发布,接着又把线上推理框架 DeepInfer 开源。实测下来,这个版本的回答明显更加谨慎和可靠。
从底座模型、底层内核到存储系统、Agent 套件…
Gemini 4 Carbon超过Opus 5.5,登顶AA智能指数
谷歌刚刚发布的新模型 Gemini 4 Carbon,在 Artificial Analysis 智能指数 v5.0 中拿下 59 分,超过 Claude Opus 5.5 Max 的 58 分,登顶榜首。这是谷歌首次把自家旗舰模型送上综合…
MiniMax M3.1 Flash发布:Agent成本降70%、推理提速3倍、权重即将开放
MiniMax 发布了 M3.1 Flash 模型,官方数据显示 Agent 使用成本降低 70%,线上推理速度接近上一代的三倍,最高输出速度可达 200+ Token/s。同时 Artificial Analysis 也给出了独立评测结果…
DeepSeek集群日处理155万亿Token:80%毛利率背后的推理架构拆解
继 DeepSeek 开源内部大规模生产级推理框架后,官方又在知乎发布了技术报告,将超大规模集群调度的底层设计完整公开。最引人注目的是:单一集群服务吞吐达 155 万亿 Tokens/天,单卡每小时收入 38 美元(按谷价),在极低 API…