腾讯混元Hy4大模型开源,全系LLM开放权重
腾讯混元团队宣布开源Hy4大模型,模型权重在四个平台上线,开发者可以下载部署。混元LLM系列全部开源,涵盖Hy3 preview、Hy3、Hy4 preview、Hy4和Hy4 flash五个版本。Hy4正式版于11月4日发布,采用MoE架构,总参数量770B,激活参数49B,上下文窗口为100万Token。Hy4与Hy4 preview都采用Apache2.0许可证,允许商业使用和修改;团队同时发布了模型安全评估卡片,评估覆盖网络安全和生物安全,训练数据仅包含防守性内容,已剔除攻击性数据,审计未发现进攻性能力风险。
海宇数科 · 事件日期 · 约 2 分钟 · 2 次阅读

腾讯混元团队于11月20日宣布Hy4大模型开源,模型权重在四个平台上线,开发者可以下载并部署。混元LLM系列由此全部开放。
混元 LLM 全系集齐,旗舰版与高性价比版双线并进
混元LLM系列已全部开源,涵盖Hy3 preview、Hy3、Hy4 preview、Hy4和Hy4 flash共五个版本。
Hy4正式版于11月4日发布,模型权重现已开放。它采用MoE架构,总参数量为770B,激活参数为49B,上下文窗口为100万Token。

据披露,Hy4flash主打高性价比,总参数量为224B,其中包含64B Engram参数,每token激活12B。该模型支持多模态输入,上下文长度可达100万token,同时API价格大幅降低。
采用 Apache2.0协议,同步公开安全评估细节
Hy4和Hy4 preview都采用Apache2.0许可证,允许商业使用和修改。
团队发布了Hy4模型安全评估卡片,评估内容包括网络安全和生物安全。训练数据仅包含防守性内容,攻击性数据已被剔除,审计未发现进攻性能力风险。
