科技前沿

1 万亿参数模型,现在能跑在你桌面上了

3 min read

1 万亿参数模型,现在能跑在你桌面上了

你有没有这种感觉——

上个月你想试一下本地跑个大模型。

你打开 Hugging Face 主页,看到你心仪的那个 700 亿参数模型,README 第一行就写着:

"GPU Memory Required: 140 GB+"

你又看了一眼自己的电脑——一台 16 GB 内存的工作笔记本。

你心里咯噔一下,但没有太在意。

毕竟,140 GB 显存——那是几万美元一张的显卡才撑得起的数字。

那是英伟达 H100 / H200的事。

那是OpenAI / Anthropic / 谷歌 DeepMind 才配得起的玩具。

跟你没关系。

直到今天凌晨,旧金山。

微软 Surface Laptop Ultra 发布会刚刚结束。

英伟达在那场发布会上,正式把一款产品摆到了桌面上——

DGX Station for Windows。

一台桌面级 AI 超算。

能跑 1 万亿参数模型。

最高 748GB 内存。

最高 20 PFLOPS 算力。

你脑子里浮出来的第一个问题大概也是——

1 万亿参数?

放桌面上?

插上你家插座就能跑?

对。

不是放机房。

不是放数据中心。

不是放液冷机柜。

是放你的办公桌上。


一、我们刚刚跨过的,不是一道门,是一堵墙

先把数字摆出来。

DGX Station for Windows 这台"桌面级 AI 超算",用的是英伟达 GB300 Grace Blackwell Ultra Desktop Superchip——

你可以理解为:

  • 一颗 72 核 Grace ARM CPU(72 核 Arm 服务器级处理器)
  • 一颗 Blackwell Ultra GPU(英伟达最新一代消费级旗舰)
  • 两者用 NVLink-C2C 高速互联,相当于把"CPU 内存"和"GPU 显存"打通成一块

合起来,这台机器的硬件规格是——

项目数字
统一内存最高 748 GB
其中 HBM3e(GPU 显存)252 GB
其中 LPDDR5X(CPU 内存)496 GB
AI 算力最高 20 PFLOPS(FP4 精度)
FP8 / FP6 算力10 PFLOPS
Int8 算力330 TOPS
最大模型参数1 万亿
多实例 GPU(MIG)最多 7 路
整机功耗1,600 W

1 万亿参数。

你对这个数字没概念没关系。

你只需要知道一件事——

OpenAI 的 GPT-4,公开估计是 1.8 万亿参数。

Anthropic 的 Claude 3.5 Sonnet,业内估计在几千亿到 1 万亿之间。

谷歌 Gemini 1.5 Pro 的早期版本,公开承认是 1 万亿+。

也就是说——

这台桌面级 AI 超算,今天能跑的,是 GPT-4 / Claude / Gemini 同级别的模型。

就在你桌上。

插上你办公室的电路就能跑。


二、为什么这不只是"更快的电脑"

你可能想问——

那不就是更贵的显卡吗?

不是。

三件事,让这台机器和"更贵的消费级电脑"不是一个物种。

第一件——统一内存。

普通电脑的"内存"和"显存"是分开的。

你做 AI 推理,模型参数加载到 GPU 显存里——显存不够,就装不下模型。

这就是为什么你 16 GB 的电脑跑不动 700 亿参数的模型。

但 DGX Station 的 748 GB 统一内存——CPU 和 GPU 共享一块物理内存池——

意味着 Blackwell Ultra GPU 可以直接当 252 GB 显存用,剩下的 496 GB LPDDR5X 也能被 GPU 调度为"模型权重 + KV cache + 工作区"。

你不需要再纠结"显存不够"——

整台机器就是一台巨大的"显存"。

第二件——多实例 GPU(MIG)最多 7 路。

一台 DGX Station 可以被切成最多 7 个独立的 GPU 实例——

你可以让 7 个 AI 智能体同时在你桌上跑——一个写代码,一个写文档,一个做数据分析,一个做设计,一个做客服,一个做翻译,一个做合规审计——

它们彼此隔离,互不抢资源。

就像你有了一支 7 个 AI 员工的团队,坐在你桌边。

第三件——NVIDIA OpenShell + Windows 原生集成。

英伟达和微软联合搞了一个叫 OpenShell 的安全沙箱运行时——

跑在 Windows 上,专门给"AI 智能体"用的安全容器。

每个 AI 智能体可以调用你电脑上的所有应用——Word、Excel、Outlook、Photoshop、AutoCAD、SAP——

但同时被 Windows 的安全机制隔离,不会乱动你的文件、不会乱发邮件、不会乱花钱。

这是AI 智能体第一次有了"工厂车间"。

**而这个车间——**今天——是放在你桌面上的。


三、这件事,会碰到哪些人?

你大概率不是英伟达的工程师。

你大概率也不是微软的产品经理。

但这件事会通过三条路,碰到你。

第一条路——做 AI 创业的人。

你今天想做一个 AI 应用——

要么花钱租云 GPU(OpenAI API / Anthropic API / 火山方舟 / 阿里云 PAI),

要么自己买机器 + 买显卡 + 装机房 + 招运维。

但你看了下价格表,云 GPU 时租费,按 8 张 H100 算,一个月烧 3-5 万美元起步。

自己买机器——一张 H100 30-40 万人民币——8 张就是 250-300 万——还要机房、空调、电费、运维。

而 DGX Station for Windows——一台桌面机——

装 1 万亿参数模型——跑 AI 智能体——

这意味着,云 GPU 的"垄断定价权",被一台桌面机打开了。

第二条路——做内容 / 创意 / 设计 / 工程的人。

你今天想用 AI 帮你写一份合同、生成一段视频、做一个建筑可视化、调一个机械结构——

你大概率用的是云端 API——

每一次调用,都是云端 GPU 在帮你跑——

每一次调用,都在消耗云端 GPU 的电费和折旧费——

每一次调用,都要传你的数据到云端。

而 DGX Station——

所有计算发生在你桌上——

你的合同数据不进任何云——

你的生成成本从"每次 API 调用几美分"变成"一次硬件折旧"——

你按的不是"按次付费",是"开机"。

第三条路——做"AI 副业" / 想给自己装个 AI 大脑的人。

你今天想给家里装个本地 AI——

要么用 Mac mini M4 — 跑 70 亿参数勉强,700 亿跑不动。

要么用游戏显卡 — 24GB 显存,70B 模型勉强量化跑,130B 跑不动。

而 DGX Station——

1 万亿参数 + Windows 生态——

它不需要你懂 Linux——

它不需要你懂 CUDA——

它只需要你打开 Windows 桌面上一个应用——"你好,AI,把我硬盘上这 5000 份合同审一遍"。

它就会审。

就在你桌上。

不进任何云。


四、那个一直挡在我们面前的"墙",长什么样

很多人没意识到——

过去 5 年,AI 行业有一道隐形的墙——

这道墙不是模型大小(开源社区一直在追)。

这道墙不是算法(Transformer 架构公开了 8 年)。

这道墙是"算力"——

更准确地说,是"个人能买到的算力"。

OpenAI / Anthropic / 谷歌能训练 GPT-4 / Claude / Gemini,是因为他们砸了上百亿美元,建了几百兆瓦的数据中心。

普通开发者、普通公司、普通创业者——能买到的算力上限,被锁在"单卡 H100 + 云端排队"里。

而这道墙——今天——被一台桌面机撬开了一个口子。

你不需要建数据中心。

你不需要烧 100 亿美元。

你只需要把一台桌面机插上电。

1 万亿参数。

20 PFLOPS。

就在你桌上。

这不是 2026 年 AI 行业最大的新闻吗?

不是 GPT 又升级了——

不是 Claude 又变聪明了——

是"算力垄断"——从云端数据中心——被打到了桌面。


五、那个你一直不敢问的问题

你心里大概还有一个问题。

这个问题,过去几年你一直想问,但一直没问出口——

"算力下沉到桌面,对英伟达自己意味着什么?"

你想一下。

英伟达过去 5 年的商业模式——

卖数据中心 GPU——给微软、给亚马逊、给谷歌、给 Meta、给 Oracle——

每一颗 H100 / H200 / B100 / GB300,都是几万美元——

客户是大公司,订单是几亿美元起。

而 DGX Station for Windows——

把"几万美元一颗 GPU"——装成"一台桌面机"——卖给个人 / 中小企业 / 创业团队 / 高校实验室——

市场一下从"几个大客户"裂变成"几千万张桌子"。

你想想这个商业模式的转变——

英伟达过去 5 年的毛利率是 75%+——

这种"桌面化"会不会稀释它的毛利率?

会不会让云 GPU 的价格被迫下跌?

会不会有一天——H100 在云端的时租费——从今天的 $2-3/小时——降到 $0.5/小时?

我不知道答案。

但我知道一件事——

英伟达自己的董事会,2026 年 9 月刚刚通过了 1500 亿美元的股票回购授权——

计划 2028 财年前回购 2350 亿美元。

回购的逻辑是什么?

回购的逻辑是——英伟达觉得——自己的护城河——会越来越宽。

而 DGX Station——可能是这条护城河里最深的一道沟——

因为它让"算力垄断"——从"公司资产"——变成了"个人资产"。


六、记住这一天

你不需要记住英伟达的股价。

你不需要记住 GB300 的架构细节。

你不需要记住 OpenShell 是干嘛的。

你只需要记住这一天——

2026 年 10 月 7 日,太平洋时间上午 10 点,旧金山。

微软 Surface Laptop Ultra 发布会。

英伟达把一台桌面级 AI 超算——DGX Station for Windows——摆到了桌面上。

1 万亿参数。

748 GB 内存。

20 PFLOPS 算力。

插上电就能跑。

第四季度上市。

ASUS、Dell、GIGABYTE、HP、MSI、Supermicro——全球六大 OEM 同步出货。

**微软和英伟达一起,把"AI 智能体工厂车间"——**从云端数据中心——搬到了你的办公桌上。

而你——作为这场革命的旁观者——

你不需要懂芯片。

你不需要懂 CUDA。

你不需要懂 NVLink。

你只需要知道一件事——

2026 年 10 月 7 日,"AI 在云端"这句话,开始变成历史。

从今天起,AI 在你桌上。

AI 在你桌边。

**AI 在你手指按"启动"键的那一秒——**就在你键盘上。

而这一次——

你不需要再租云。

你不需要再排队。

你不需要再把你的数据,发到任何一台远在天边的服务器。

你只需要——把椅子往左拉一下——

你的 AI 同事——就坐在你右边。


P.S. 这是 IT之家 2026 年 10 月 8 日凌晨的报道,源自英伟达 2026 年 5 月 31 日 GTC 台北的预告,今天是微软 Surface Laptop Ultra 发布会上的正式落地。华硕、戴尔、技嘉、惠普、微星、超微——全球六大 OEM 第四季度同步出货。微软 Windows + Devices 负责人帕万·达卢维里亲自站台,英伟达企业平台副总裁克里斯·马里奥特罕见公开背书。算力下沉到桌面的第一天。