---
title: "ARX 對 Model Provider 的作用"
description: "ARX 如何部署您的模型：從 Hugging Face repository 到運行中模型執行個體的介面流程、支援的推論引擎，以及模型對外提供的 API"
canonical_url: "https://developer.ardge.com/zh-tw/guide/model-provider/overview"
---
# ARX 對 Model Provider 的作用

> ARX 如何部署您的模型：從 Hugging Face repository 到運行中模型執行個體的介面流程、支援的推論引擎，以及模型對外提供的 API

您開發並調校模型，ARX 則負責讓它們運行在客戶自己的硬體上，並提供給同一套系統上的應用程式使用。

## ARX 負責的部分

- **部署流程**——AI Model Center 從您的 Hugging Face repository 取得模型、下載權重並啟動執行個體，進度可在 **Downloaded Model** 與 **Model Instance** 頁面追蹤
- **推論引擎**——提供 vLLM、NVIDIA vLLM、Llama.cpp 與 Faster Whisper，部署時由您選定引擎與參數
- **GPU 容量**——ARX 會估算模型所需資源，若目標顯示卡容量不足則直接擋下部署
- **API 介面**——運行中的模型透過 ARX model gateway 同時支援 OpenAI 與 Claude API 格式，應用程式不需要特定廠商的用戶端即可呼叫

## 您需要準備的部分

- **safetensors** 或 **GGUF** 格式的模型，並附上設定檔與 tokenizer 檔案
- 用於發布模型的 Hugging Face repository；private repository 需先在 ARX 中儲存 access token
- 您希望使用者採用的部署設定

## 操作指南

<card-group>
<card icon="i-lucide-upload-cloud" title="在 ARX 裝置上部署您微調的模型" to="https://developer.ardge.com/zh-tw/guide/model-provider/deploy-fine-tuned-model">

檢查模型格式與檔案是否符合 ARX 要求、上傳至 private Hugging Face repository，再從 AI Model Center 下載並部署

</card>

<card icon="i-lucide-file-code" title="準備您的 model template" to="https://developer.ardge.com/zh-tw/guide/model-provider/prepare-model-template">

撰寫讓模型出現在 AI Model Center 的 template：collection 與 variant 結構、宣告模型資訊的 model 區塊，以及服務模型的推論引擎

</card>

<card icon="i-lucide-handshake" title="透過官方通道出貨" to="https://developer.ardge.com/zh-tw/guide/model-provider/shipping-channel">

從自行部署的 template，走向以 ARDGE 合作夥伴身分將模型交付給客戶

</card>
</card-group>

<note>

**呼叫已部署的模型**：模型啟動後，應用程式透過 model gateway 存取它。取得 endpoint、API key 與 model ID 的方式請見[透過 API 呼叫 ARX 上的地端模型](https://developer.ardge.com/zh-tw/guide/isv/api-model-calls)。

</note>


## Sitemap

See the full [sitemap](https://developer.ardge.com/sitemap.md) for all pages.