模型來源

Xinference 支援從不同的來源下載各種模型。

HuggingFace

Xinference 預設直接從 Hugging Face 官方模型倉庫 下載所需的模型。

備註

如果你的網路無法連接到 HuggingFace ，你可以透過環境變數指定 HuggingFace 鏡像網站：HF_ENDPOINT=https://hf-mirror.com 。

ModelScope

當 Xinference 偵測到系統語言設定為「簡體中文」時，會將模型下載來源設為 ModelScope。

你也可以透過手動設定環境變數 XINFERENCE_MODEL_SRC=modelscope 來實現這一點。

請在模型的詳情頁面上查看它是否支援從 ModelScope 進行下載。如果一個模型支援從 ModelScope 下載，模型資訊中的 Model Hubs 這一項會包含 ModelScope。