#GPU

一文讲透AI算力平台8个核心概念:GPU、显存、NVLink、InfiniBand
本文聚焦于 AI 算力平台的 8 个核心概念:GPU、显存、NVLink、InfiniBand、调度、存储、容器和监控。沿着一次分布式训练任务的执行过程,读者可以看清这些组件怎样协同工作,并初步判断:训练慢,究竟是卡没算起来,还是整条系统路…
尤雨溪宣布 Shaders 开源:200+ WebGPU 效果组件免费,支持 React/Vue/Svelte 全框架
Evan You(尤雨溪)最近宣布,WebGPU效果组件库 Shaders 正式开源。 Shaders 把 WebGPU 能力封装成语义化组件。WebGPU 是浏览器访问 GPU 的新标准,网页可以直接调用显卡渲染。200多个效果,渐变、噪…
手把手教你薅 CNB 免费 48G GPU 使用教程,一行命令部署 Ollama 模型
之前介绍过三种免费使用 GPU 的方式,有读者询问 CNB 的具体操作教程。腾讯 CNB 免费 48G GPU 的一键部署流程。 CNB 是腾讯旗下的云原生代码管理平台,支持云原生开发与构建,用微信扫码即可登录 第一步:注册与登录 打开 c…
whichllm:本地跑大模型选模型神器
这两年开源模型从 Llama 到 Qwen,再到 Gemma,能力一点点逼近闭源模型。于是不少人开始动心思,想要在自己电脑上本地部署模型,试图解决高昂的 Token 费用。 但在 HuggingFace 上有上百多万个开源模型,参数量从 1…