Xinference Models Hub#

在 v1.13.0 版被加入.

概述#

Xinference Models Hub 是 Xinference 用於模型管理與協作的統一平台。它為模型瀏覽、註冊、評審、更新與協作維護提供端到端支援，面向一般使用者與模型維護者提供全流程能力。

在引入 Models Hub 之前，模型 JSON 檔案需要由使用者直接透過 PR 修改 xorbitsai/inference 開源倉庫。這種方式導致模型版本不可控、迭代週期長、模型更新依賴產品發版流程，使用者無法及時獲得最新模型。

通過集中式線上模型管理機制，Xinference Models Hub 要求 所有模型資訊（包含元資料、參數及 README）均在平台中完成編輯。系統會根據 模型維護者 的修改 自動生成並提交 PR 到 xorbitsai/inference 倉庫，實現流程標準化、自動化與可追溯性，避免手動修改帶來的不一致問題。

使用者可透過 模型更新 功能隨時取得最新模型列表，從而顯著提升模型交付效率與整體使用體驗。

一般使用者指南#

本節介紹一般註冊用戶可使用的基本功能。

適用對象： 無模型註冊或維護權限的普通使用者。

核心功能#

普通使用者無需登入即可瀏覽公開模型：

瀏覽模型#

  • 功能： 查看所有公開可用模型

  • 入口位置： 導覽列 → “Models”

  • 模型詳情： 預設顯示 README 標籤，包含模型說明、使用指南與注意事項

備註

部分進階或企業版模型僅對具備權限的使用者可見。

模型維護者指南#

本節介紹具備模型註冊或維護權限的使用者可使用的功能，包括模型註冊、更新與評審流程。

適用對象： 具有模型註冊或維護權限的使用者。

核心功能（需登入）#

模型維護者在普通用戶功能基礎上，可以使用以下進階能力：

使用者中心#

  • 功能： 查看與管理個人資訊

  • 入口位置： 右上角頭像 → 「用戶中心」

  • 帳號管理： 更新個人資料、電子郵件等資訊

  • Token 管理： 配置個人 GitHub Token 以提交或更新模型

備註

若未設定個人 GitHub Token，系統將在產生 PR 時使用預設 Token。

模型註冊#

  • 功能： 註冊新模型並提交評審

  • 入口位置： 登入後 → 右上角頭像 → 「模型註冊」

提交步驟：

  1. 填寫基礎模型資訊（名稱、引擎、格式等）

  2. 編輯 README（點擊「獲取 README」可自動生成模板）

  3. 提交模型（如需註冊公開模型，請啟用「公開模型」參數）

備註

在註冊公開模型時，系統將自動在 xorbitsai/inference 倉庫創建 PR。

我的模型#

  • 功能： 檢視與當前帳號相關的所有模型

  • 入口位置： 登入後 → 右上角頭像 → 「我的模型」

模型維護#

  • 功能： 修改模型的 JSON 或 README

  • 入口位置： 模型詳情頁 → 「設定」圖示

備註

在更新公開模型時，系統將自動在 xorbitsai/inference 倉庫建立 PR。

評審流程#

提交者流程：

  1. 提交模型

  2. 等待評審

  3. 根據評審意見修改

  4. 對於公開模型，PR 會在修改後自動更新

評審者權限： 可存取模型評審列表並執行評審操作。

審核者流程：

  1. 進入「評審列表」

  2. 評估模型品質、資訊完整性與規範性

  3. 通過或駁回，並給出相應反饋