国际 AI 资讯

腾讯混元开源 Hy4 flash:224B 大模型上线 GitHub,提供三种版本

腾讯混元开源 Hy4 flash 系列,含标准版、FP8 量化版和 Base 版,总参数 224B,每 token 激活 12B,支持 100 万 token 上下文,权重已在多个平台开放下载,API 价格较 Hy4 下调。

海宇数科 · 事件日期 · 约 1 分钟 · 4 次阅读

腾讯混元开源 Hy4 flash:224B 大模型上线 GitHub,提供三种版本 配图
腾讯混元开源 Hy4 flash:224B 大模型上线 GitHub,提供三种版本 配图

腾讯混元开源 Hy4 flash 系列,共三个版本:标准版 Hy4 flash、量化版 Hy4 flash-FP8,以及供从零训练的 Hy4 flash Base。模型权重已在 GitHub、Hugging Face、ModelScope、GitCode 开放下载,另提供方便本地部署的 GGUF 格式。腾讯同时预告将开源更大的 Hy4 模型。

腾讯混元开源 Hy4 flash 224B 大模型上线 GitHub 提供三种版本 配图 1
相关配图

卖点不是 最大 ,是划算

Hy4 flash 总参数量 224B,其中包含 64B Engram 参数,采用稀疏架构,每 token 激活 12B。模型支持多模态输入,上下文长度达 100 万 token,API 价格较 Hy4 有所下调。

腾讯云 TokenHub、元宝、企业微信、QQ、ima、Marvis 均已接入 Hy4 flash。该模型权重可下载,协议公开,价格更低。

← 返回AI 资讯