混元 Hy4 flash 開放權重,自行部署需要多少資源

騰訊公開指令版、FP8 版與預訓練基座。每個 token 的啟用參數能說明部分運算需求,企業仍須以完整權重、實際請求與交付條件估算部署資源。

本文發布: 2026-11-20墨客雲編輯部4 分鐘閱讀

公開動態與原創分析 · 消息日期: · 消息來源

騰訊11月16日發布混元 Hy4 flash 並介紹託管服務,18日宣布開放權重。官方儲存庫列出指令版、FP8 量化指令版與預訓練基座,也提供 Hugging Face、ModelScope 和 GitCode 入口。模型可接受文字及圖片並產生文字,文件所列的上下文上限約100萬 token。準備在內部處理文件及圖片的團隊,現在可以自行選擇執行環境和權重版本。

AI 主題示意。完整陶瓷拼面中一小組被照亮,用來說明模型權重與每次參與運算的部分。
AI 主題示意。完整陶瓷拼面中一小組被照亮,用來說明模型權重與每次參與運算的部分。

約120億的啟用參數描述每個 token 有多少參數參與運算。騰訊發布稿以2240億總參數介紹產品,儲存庫以約2200億描述該模型,並分列主幹、Engram、視覺編碼器與推測解碼元件。規劃容量時,可從確切版本的權重分片看起,再確認推論引擎如何載入。不同請求可能走到不同專家,服務需要能取用相應權重。

由權重檔案推估服務容量

完整檔案清單有助估算儲存、分發與更新開銷。裝置記憶體還要考量推論引擎如何放置權重、保留中間狀態及排程並行請求。官方給出多卡 FP8 配置作為實例。團隊可用來辨識軟體與硬體的前提,再確認現有設備能否處理預定工作,尤其是圖片與長文件出現在同一筆請求時。

例如,假設零件企業從工單附件讀出銘牌型號,再依手冊產生紀錄,交給維修工程師核對。影像處理要辨認一個字元的差異,文字處理要引用正確版次。可先用常見的照片大小及拍攝品質做樣本,再測同次請求加入幾頁手冊的等候時間。按型號查到相關頁面即可回答時,只傳入必要段落也讓工程師較容易回到原文。

早班收到一批圖片時,少數長請求可能拉長其他工單的等待。實測應記錄長短請求混跑時的尾端延遲、排隊及記憶體峰值。一張清楚照片可確認模型載入與輸出格式,服務容量估算還需納入低品質影像、尖峰並行,以及文件不符後的重試。也可將批次擷取與互動核單放入不同佇列,為後者保留回應資源。

版本選擇與後續維護

指令版是文件中用於對話及指令呼叫的候選。FP8 量化版可在支援的設備與引擎上比較資源占用及輸出差異。預訓練基座適合有後續訓練工作、能維護訓練樣本與評估的團隊。既有資料擷取作業若已穩定,可用同批圖片與參考答案比較兩個指令版本,觀察易錯字元、遺漏欄位及人工修正時間。

自行部署能固定模型及引擎版本,也需要團隊安排升級與故障復原。交付時應能追查使用哪一版權重、如何重現量化版本、怎樣在升級失敗時恢復,以及容器或快取異常時能否重建服務。對外部客戶提供介面時,還要查閱 Tencent Hy License 1.0。第10節說明 MaaS 的定義、服務達到一定規模時須另取得授權的條件,以及相關材料和輸出均留在內部的用途例外。應按實際交付方式查清適用條件。

是否值得自行部署,宜先看現有工作的瓶頸。託管服務若符合資料要求,呼叫量又隨專案變動,可沿用按量方案並保留驗收樣本。已有穩定流量、清楚的資料邊界及維運人員時,開放權重提供了可以量測比較的選項。用合格工單完成時間、人工修正量和每月總成本評估,才能知道所選版本與部署方式是否適合日常工作。

消息來源

  1. Tencent Hy4 flash launch announcement

    原文發布: · 查閱日期:

  2. Tencent Hy4 flash model and deployment documentation

    查閱日期:

  3. Tencent Hy License 1.0

    查閱日期:

  4. Tencent Hy4 flash download and model card

    查閱日期:

墨客雲編輯部 · neo@mokyun.com