本站此前已分别讲过混元 Hy4 旗舰开源与 flash 的权重、许可和成本,本篇换一个切面——11 月 21 日凌晨那场 AMA 里首次披露的本地部署门槛与端侧路线图。据腾讯科技与 21 世纪经济报道 11 月 21 日报道,姚顺雨携混元团队在 Reddit 做了 120 分钟 AMA、回答近 100 个问题,是团队首次面向开发者社区的公开问答。对想在自家硬件上跑模型的人,最实用的几句是:Hy4 flash 可以在 M5 Max 和配 128GB 内存的 DGX Spark 上运行,提供 GGUF 版本,SWA 把 KV 缓存缩到原来约四分之一,llama.cpp 适配正在推进。这些是「能不能在本地跑起来」的一手答案。
AMA 给出的本地运行口径相当具体:Hy4 flash 可以在 M5 Max 和配有 128GB 内存的 DGX Spark 上运行;官方提供 Hy4 与 Hy4 flash 的 GGUF 版本;通过 SWA(滑动窗口注意力)把 KV 缓存缩小到原来的约四分之一,并把 64B 的 Engram 参数卸载到主机内存,让激活的 12B 参数在 128GB 以上设备上跑得更快。但团队也划了红线:总参 220B 的模型即便 Q4 量化也需要 130GB 以上内存,多数单显卡和 64GB 内存的 Mac 跑不了;端侧模型会用不同的设计思路,而非简单缩小旗舰。
| 项目 | AMA 口径 |
|---|---|
| 可运行硬件(Hy4 flash) | M5 Max、配 128GB 内存的 DGX Spark |
| 量化格式 | 提供 GGUF 版本(Hy4 与 Hy4 flash) |
| KV 缓存优化 | SWA 缩到原来约 1/4;64B Engram 参数卸载主机内存 |
| 220B 总参 Q4 门槛 | 需 130GB 以上内存,多数单显卡与 64GB Mac 跑不了 |
| llama.cpp | 正在推进适配,近期由开源社区推动 |
| NVFP4 / EXL3 | 暂未提供官方 NVFP4 量化(可参考社区);无官方 EXL3 计划 |
对显存有限的本地用户,AMA 透露了明确的小模型路线:Hy4-mini 已列入路线图;24B—31B 的稠密模型在考虑之中;面向 24GB 显存的模型「有,未来会发布」;还有 Flash-Lite 模型「敬请期待」。团队同时表态会继续开源,并强调端侧模型会用不同于旗舰的设计思路。换句话说,本地推理的供给不会只有「跑不动的大旗舰」,更小、更省显存的档位正在路上——这对边缘与单机私有化是实质利好。
成本方面,21 世纪经济报道引 AMA 与官方口径:在 WorkIndex 上 Hy4 flash 的单任务成本约为 Hy4 的 1/20;85 名内部用户、259 项任务的盲测中,单任务成本约 0.26 元。这是「内部盲测 + 特定基准」口径,不等于任意场景的实际账单,引用时要带上限定。迭代节奏上,团队称平均约两个月一个大版本:2 月重建基础设施 → 4 月 Hy3 preview(2950 亿总参/210 亿激活)→ 7 月 Hy3 正式 → 8 月 Hy4 preview(770B/49B/1M 上下文)→ 11 月 Hy4 正式(加入视觉与电脑操作)→ Hy4 flash。团队还提出三条原则:能力体系化、评测真实性、性价比追求,并直言「不迷信单一榜单」。
128GB 能跑 flash,24GB 档位还在路上
来源:腾讯科技 2026 年 11 月 21 日《混元团队 120 分钟 AMA》(news.qq.com/rain/a/20261121A036ZO00)、21 世纪经济报道 2026 年 11 月 21 日 11:23 记者吴佳楠(sfccn.com/2026/11-21/0MMDE0NDlfMjMxMjk0Mg.html);本地部署硬件、量化与路线图均为 AMA 现场口径,成本数字为内部盲测/特定基准口径。 本文仅转述公开报道,不评判任何企业与产品,不构成投资建议。
您的看法、追问、以及同行实践里的对照——都欢迎写下来。留下邮箱或手机号,我们会回复;留言审核后公开展示在本页,精选观点我们还会写进后续动态。
正在加载留言…
[中国腾讯混元 AMA 首谈本地部署:Hy4 flash 可跑 128GB DGX Spark,单任务约 0.26 元](https://jiwu.org.cn/news-2026-11-21-hunyuan-ama-local-deploy.html)(机悟 JAVIS,2026-11-21)选一条最费人的流程,看看现有设备能跑什么、要补什么、怎么验——提交后 1 个工作日内联系您;也可以直接加下方企业微信,对接更快。
工作人员将在 1 个工作日内与您联系。急事请直接扫码加企业微信,备注「单位 + 需求」。
加企业微信更快对接