腾讯混元Hy4开放7700亿参数MoE权重,企业私有部署怎么算账
AI
发布于 2026-11-21 / 0 阅读
0
0

腾讯混元Hy4开放7700亿参数MoE权重,企业私有部署怎么算账

2026 年 11 月 20 日中午,不少基础设施工程师的办公群里都转进了同一条消息:“腾讯混元旗舰 Hy4 正式开源了,激活参数才 490 亿,支持 100 万上下文,机房那台空闲的 8×80GB 服务器周末能不能拉下来跑个内网测试?”

先别急着敲下载命令。将近 1.5TB 权重拉回本地之前,替研发和运维同行标红两处暗雷:第一,翻开官方仓库根目录的许可证原件,别轻信部分快讯写的“Apache 2.0 无限制商用”;第二,把混合专家(MoE)模型的静态显存账算透,分清“激活 490 亿”到底省了什么、没省什么。

先把时间节点对齐,免得内部评审把日子说混:Hy4 正式版及在线服务早在 2026 年 11 月 4 日首次发布,引入视觉理解与跨命令行/图形界面的电脑操作(Computer Use)能力,接入腾讯云、元宝与 WorkBuddy。11 月 18 日,轻量档 Hy4 flash 先行放出权重。而 2026 年 11 月 20 日落地的,是旗舰版自身权重的正式开放:腾讯混元在 GitHub、Hugging Face、ModelScope 与 GitCode 同步上线标准指令版 Hy4、8 位量化指令版 Hy4-FP8 及预训练底座 Hy4 base(另通过 AngelSlim 提供端侧测试用 GGUF 包),随附 82 页安全评估报告 Hy4 System Card。

题图:高密度液冷 GPU 计算节点剖面与稀疏专家路由光束的精密工程轴测图(AI 概念生成,非实拍 · 津滨AI)

先核对许可证原件:告别预览版 Apache 2.0,改走带 MaaS 门槛的开放权重

2026 年 11 月 20 日,包括新浪科技转载 IT之家在内的部分快讯沿用早期预览版印象,写称“Hy4 采用 Apache 2.0 许可证”。打算拿这套权重对外做商业服务的团队,信这句话会踩大坑。

打开 GitHub 官方仓库根目录的 LICENSE 原文,首行写明 Tencent Hy License, Version 1.0。只有 2026 年 8 月发布的 Hy4 preview 用过 Apache 2.0。正式版许可证在导言声明其衍生自 Apache 2.0 修改,并非 Apache License 2.0,核心变动落在第 10 条“附加商业条款”:

  • 谁须另签书面授权:前提是经营 MaaS(模型即服务)业务,即通过 API 等向第三方开放通用模型推理或微调访问。在此前提下,只要关联法律实体任意连续 12 个月全球合计总营收超过 5,000 万美元(不论收入是否来自 Hy4),或将模型用于任一自然月月活(MAU)超过 1 亿的自有产品/服务,使用前均须联系 hy_partners@tencent.com 取得单独书面许可。微调、量化、蒸馏、合并或剪枝模型均属衍生作品,同样受第 10 条约束。
  • 谁可直接放心用:第 10.3 条豁免纯企业内部自用(模型、衍生品及输出均不提供给第三方)。第 10.1 条也排除了“仅将模型能力限定在特定功能或工作流内、不开放通用模型访问的终端产品”。拿来支撑内网投研、办公或嵌入自有垂直软件的中小企业,不会被这道门槛卡住。

此外也需分清“开放权重(Open-Weight)”与“完整开源(Open-Source)”:本次开放了三档权重、推理配置、微调指南与安全系统卡,未公开预训练原始语料。安全侧,官方发布页披露训练仅保留 PoC 生成与漏洞修复等防守性网安数据,经腾讯玄武与科恩实验室审计未见突出进攻性风险;生物安全基准 Hy-BioExperimentBench 得分为 30.4/100,低于内部高风险阈值(注:82 页 Hy4_system_card.pdf 在线页采用画布渲染,本文仅引述官方发布页已公开核实的结论)。

图 1:腾讯混元 Hy4 规格核验及不同精度静态权重显存占用工程测算对比(按参数字节工程测算 · 非实测 · 制图:津滨AI)

拆开显存硬账:激活 490 亿省了算力,为何单机 8×80GB 仍装不下?

看完法务边界,再算最让运维头疼的显存硬账。

很多业务同事看到“每 Token 激活 490 亿参数”,就按 50B 稠密模型去备卡,以为两张 80GB 显卡就能跑。但在自回归解码中,下一个词元随时可能跳向任意路由专家,全部专家权重必须完整常驻高带宽显存(VRAM),一旦溢出到内存走 PCIe 换页,并发吞吐就会断崖跌穿。

据官方中文模型卡规格表,Hy4 语言主干共 78 层(第 1 层标准稠密 FFN,其余 77 层每层含 256 个路由专家 + 1 个共享专家,每 Token 激活 Top-8 路由专家与共享专家),主干总参数 770B(激活比约 6.4%)。算上 40 层动态分辨率 ViT(1.23B)与内置 5 层并行投机解码模块 DFly2(3.3B),全模型驻留参数约 774.5B。

按参数字节做工程测算(注:以下显存数据均为按公开架构维度所作的工程测算,非实测),硬件门槛立见分晓:

  1. BF16 原生精度(Hy4 / Hy4 base):静态权重即占约 1,540GB–1,550GB 显存,至少需 2 至 3 台 8×141GB 或 3 台 8×80GB 节点跨机并行,硬件与高速网投入动辄数百万人民币。
  2. FP8 官方量化版(Hy4-FP8):静态权重约 775GB–790GB,对应官方 README 中 vllm/vllm-openai:hy4 与 lmsysorg/sglang:hy4 默认演示的 TP=8 形态。但请盯紧卡点:国内机房最常见的单台 8×80GB 服务器总显存仅 640GB,仍差约 150GB! 单机不跨节点跑通满血 Hy4-FP8,起步门票是 1 台 8×H20(141GB) 或 8×H200(141GB)(整机 1,128GB 显存),否则只能拆成双机 16 张 80GB 卡。
  3. 100 万上下文(1,048,576 Tokens)KV Cache 账:得益于 MLA(kv_lora_rank=512) 与 Gated DSA,单路满载 100 万 Token 的 KV 缓存在 BF16 下压至约 88GB–94GB(FP8 KV 缓存约 44GB–47GB)。一台 1,128GB 的 8×141GB 机器装完约 790GB 权重与系统缓冲后,剩余近 300GB 显存约只够同时承载 2 到 3 路满载百万 Token 的超长请求(或数十路 32K–64K 常规并发)。
图 2:腾讯混元 Hy4 稀疏多模态内部架构与企业私有化选型三岔决策树(制图:津滨AI · AI 辅助制图)

什么时候才该自己扛集群?给技术负责人的选型边界

把硬件折旧、能力边界与云端价格摊开对照,我给出一个明确且可被重资产团队反驳的判断:对九成没有“核心数据严禁出内网 + 日均亿级 Token 持续负载”双重硬约束的企业而言,专门腾挪 8×141GB 机器私有化部署 770B 满血版 Hy4 并不划算;内网常规业务改跑同系 Hy4 flash,低频长文直调云端 API,投入产出比高得多。

两组公开数据摆在账面上:

  • 云端价格锚点:据官方发布页与计费标准,Hy4 API 每百万 Token 国际价为输入 $0.834、输出 $2.501、缓存命中 $0.042(国内腾讯云 TokenHub 对应输入 6 元、输出 18 元、缓存命中 0.3 元)。百万元级 8×141GB 服务器一年的折旧电费,足够在云端买下数百亿级输入与缓存 Token。
  • 官方自承的能力边界:在 213 位专家参与的 579 个金融任务众测中,Hy4 以 3.04 分(满分 4 分) 居参评开源模型第一,自建测试幻觉率从 15.76% 降至 5.45%(官方中文 README)。但腾讯在“已知局限”中坦言:Hy4 与顶尖闭源模型在内部前沿数学、长程开发、模型迭代和高阶视觉问答测试集上仍有较大差距。 日常知识库与办公用 220B–224B 总参、12B 激活的 Hy4 flash,单台 8×80GB 就能宽裕跑满;啃超长程代码重构仍需搭配顶尖闭源旗舰。

这个判断何时不成立?若你身处持牌金融核心投研、涉密政企、工业 CAD 或大型游戏管线(Hy4 在 GameDev 较预览版提升 19.1%),严禁数据出内网且日均调用达数亿 Token,或必须基于 Hy4 base 喂入私有语料继续预训练——此时自建 8×141GB 跑 Hy4-FP8 才能真正跑出规模复利。

知识延伸:为何“MLA + 共享 KV 投机解码”成了超大 MoE 标配?

单靠稀疏 MoE(770B 选 49B)只省了单 Token 算力,却救不了百万长文 KV 显存膨胀与解码访存带宽瓶颈。Hy4 先用 MLA + Gated DSA(IndexCache 跨层复用稀疏索引,动态挑 Top-2,048 位置) 压住长窗口显存,再内置基于 AngelSpec 训练的 5 层并行投机解码模块 DFly2(3.3B)。

DFly2 直接共享主模型对应层的 KV Cache 与稀疏索引,做到零额外投机模块 KV 显存占用,每次候选词元仅关注约 2,000 个键且不介入预填充阶段,天然契合预填充与解码分离(PD 分离)架构。参数向高处堆容量、注意力与投机模块向窄处抠带宽,正是百亿激活巨兽走进企业机房的工程底座。

说明:本文由 津滨AI 借助 AI 辅助检索公开官方代码仓库、许可证原件与技术报道、整理初稿,并经人工逐条核实一手信源与限定口径后审校定稿;显存占用数据为按公开架构维度参数字节所作的工程测算(非实测);文内题图由 AI 辅助生成概念示意(非实拍),两张数据与架构图由 津滨AI 基于已核实公开资料制图。

参考资料

[1] Tencent-Hunyuan/Hy4 官方 GitHub 仓库与中文模型卡(2026-11-20):https://github.com/Tencent-Hunyuan/Hy4

[2] Tencent Hy License, Version 1.0 官方许可证全文(2026-11-20):https://github.com/Tencent-Hunyuan/Hy4/blob/main/LICENSE

[3] Hugging Face tencent/Hy4 官方模型仓库(2026-11-20):https://huggingface.co/tencent/Hy4

[4] 腾讯混元官方发布页:《Tencent Hy — Hy4 Release》(2026-11-04 首发,2026-11-20 更新开放权重说明):https://hy.tencent.ai/research/hy4

[5] 新浪科技(转载 IT之家):《腾讯 Hy4 正式开源,混元 LLM 系列实现全量开放》(2026-11-20,注:文中关于 Apache 2.0 的表述与官方仓库 LICENSE 原文存在差异,本文以官方 LICENSE 为准):https://finance.sina.com.cn/tech/digi/2026-11-20/doc-inizkctf5607044.shtml


评论