CometAPI 中的 Auto API 是什麼？
CometAPI 的 Auto API 是一個智慧模型路由端點，讓開發者在每次請求時不必指定固定的模型名稱即可存取合適的 AI 模型。開發者無需選擇特定模型（例如 GPT、Claude、Gemini 或其他支援的模型），只需將 model=auto，CometAPI 便會根據該請求的特徵與需求自動判定合適的模型。
若工作負載偏好更高的回應品質，開發者可以使用 auto-high。auto 與 auto-high 都是路由選項，而非固定的 AI 模型。
此作法讓應用程式能使用一致的 API，同時由 CometAPI 在後端處理模型選擇。
Auto API 的參數與規格
Auto API 使用與對應 CometAPI 端點一致的 API 請求結構。主要差異在於 model 參數的取值。
| 參數 | 型別 | 說明 |
|---|---|---|
| model | string | 設為 auto 或 auto-high |
| messages | array | 會話訊息 |
| stream | boolean | 在支援時啟用串流 |
| tools | array | 工具定義 |
| response_format | object | 結構化輸出設定 |
| Image input | object/array | 在支援時提供的影像內容 |
| File input | object/array | 在支援時提供的檔案內容 |
| Reasoning parameters | object/string | 由所選模型支援的與推理相關設定 |
Auto API 如何運作？
當請求使用 model=auto 或 model=auto-high 時，CometAPI 會先檢視該請求的特徵。這些特徵可包含客戶端類型、請求是否包含影像或檔案、估計的輸入長度、工具使用情況、結構化輸出需求、串流，以及與推理相關的參數。
基於這些特徵，請求會被匹配到合適的路由場景。之後，CometAPI 會依據已設定的品質等級、模型可用性、優先順序、權重、使用者群組權限、能力、定價與通道可用性，從相應的模型池中選擇符合條件的模型。
模型選定後，請求會進一步經由 CometAPI 既有的通道路由系統。Auto 路由決定「哪個模型應處理該請求」，而通道路由則決定「哪個可用的供應商通道應處理該模型請求」。
Auto 路由不會自動建立通道或略過既有的通道設定。模型必須具備必要的定價與通道路由設定，才能成功處理請求。
因此，API 回應中返回的模型可能與請求中指定的模型不同。舉例而言，使用 model=auto 的請求，回應中的 model 欄位可能會返回實際選定的模型名稱。這是預期行為，用以表示最終由路由器選擇的模型。
Auto 與 Auto-High：有何不同？
auto 與 auto-high 採用相同的智慧路由概念，但目標品質層級不同。
Auto 為通用型路由選項。其目的在於在回應品質、成本、速度與可用性之間提供務實的平衡。適合作為大多數日常應用的預設選擇。
Auto-High 則面向偏好更強模型與更高回應品質的使用者。更適用於複雜推理、高階程式設計、深入分析與其他對品質敏感的工作負載。
auto-high 並不代表每次請求都會送往單一的高階模型。與 auto 一樣，它會根據請求特徵，從已設定的高品質模型池中動態選擇模型。
| 功能 | auto | auto-high |
|---|---|---|
| 目的 | 通用自動路由 | 更高品質的自動路由 |
| 模型選擇 | 自動 | 自動 |
| 固定模型 | 否 | 否 |
| 主要側重 | 成本、速度、可用性與能力的平衡 | 偏向選擇更高品質的模型 |
| 最佳適用 | 一般生產環境工作負載 | 複雜或對品質敏感的工作負載 |
| 模型可能變動 | 會 | 會 |
簡而言之，當你需要平衡的預設值時使用 auto；當回應品質是更高優先順序時使用 auto-high。
使用情境
一般 AI 應用
Auto 是聊天機器人、內容生成、摘要、分類、客服與其他通用型 AI 應用的便利選擇。開發者無需為每次請求維護固定的模型選擇策略。
程式設計與開發
程式設計相關應用可從 Auto 路由中受益，因為與程式設計相關的請求可以被導向已針對軟體工程任務配置的模型。這對於程式助理、IDE 整合、程式碼生成、除錯、程式碼審查與開發代理等都很有幫助。
複雜分析與推理
auto-high 適合在回應品質比降低模型成本更重要的任務，例如技術分析、複雜推理、研究任務、細緻的文件分析與更精密的代理流程。
多模態應用
當路由規則與候選模型的設定支援時，Auto 可以將包含影像或檔案的請求導向能處理該等輸入的模型。
高流量應用
對於需要處理大量多樣化請求的應用，Auto 也很有用。開發者可讓 CometAPI 在中心化的地方管理模型選擇，而無需在應用程式碼中實作與維護模型選擇邏輯。
Auto API 有哪些限制？
Auto 不保證每個請求都由相同模型處理。由於模型選擇具有動態性，基礎模型會隨路由條件與設定變化而變更。
Auto 也不保證最低價格。其設計目標是智慧選擇模型，而非單純挑選最便宜可用的模型。
另一項限制是特定模型的能力可能不同。不同模型對於情境長度、工具、影像輸入、結構化輸出或其他功能的支援各異。因此，當已設定的候選模型擁有準確的能力資訊時，Auto 的效果最佳。
最後，選定模型並不保證請求能成功完成。所選模型仍需具備對應使用者群組可用的通道路由。若無合適通道可用，即使 Auto 已成功識別模型，請求仍可能失敗。
Auto 如何處理不同類型的請求？
Auto 的關鍵優勢在於開發者無需為每種常見請求類型手動維護模型選擇邏輯。
一般文字請求可由預設模型池處理。程式設計相關請求可導向偏向程式設計的模型池。大型情境的請求可匹配到支援所需輸入大小的模型。影像請求可路由至具備視覺能力的模型。
這讓同一個 API 入口能支援不同的應用場景，同時保持客戶端整合的簡單性。
使用 CometAPI Auto API 的好處是什麼？
Auto 的主要好處在於將「應用程式邏輯」與「模型選擇邏輯」分離。
若沒有自動路由，開發者往往需要自行決定由哪個模型處理每個請求，並在模型不可用、成本升高或不適合特定工作負載時維護備援策略。
透過 Auto，應用可以使用穩定的路由識別，而底層的模型策略由中心化進行管理。
此作法能簡化多模型應用、讓模型變更更容易部署，並減少必須在應用程式內維護的模型特定路由邏輯。
對於同時使用多家 AI 供應商且模型能力快速演進的團隊而言，這層抽象特別有價值。
Auto API 與特定模型
| 功能 | Auto | 特定模型 |
|---|---|---|
| 自動模型選擇 | 是 | 否 |
| 固定模型識別 | 否 | 是 |
| 應用程式簡易度 | 高 | 中 |
| 模型控制力 | 較低 | 高 |
| 彈性 | 高 | 較低 |
| 可預測性 | 較低 | 高 |
| 是否適合混合型工作負載 | 是 | 視模型而定 |
| 是否適合可重現的測試 | 受限 | 是 |
| 最佳適用 | 動態生產環境的工作負載 | 以模型為中心的應用 |
如何使用 CometAPI Auto API
CometAPI Auto API 設計為可與 OpenAI 相容的 Chat Completions API 搭配運作。你不需要選擇特定的底層模型。只要將 model 參數設為 auto 或 auto-high，CometAPI 就會根據請求自動選擇合適的模型。
步驟 1：取得 API 存取
登入 cometAPI。若你尚未成為使用者，請先註冊。登入你的 CometAPI console。取得介面的存取憑證 API key。在個人中心的 API token 處點擊「Add Token」，取得 token key：sk-xxxxx 並提交。
步驟 2：向 Auto API 發送請求
選擇 “auto" 或 "auto-high” 端點發送 API 請求並設定請求本文。請求方法與本文參數可自我們網站的 API 文件取得。我們的網站也提供 Apifox 測試以利使用。將 <YOUR_API_KEY> 替換為你帳戶中的實際 CometAPI 金鑰。
差異很簡單：
auto— 適用於一般工作負載的平衡選擇。auto-high— 優先選擇更高品質的模型。
兩者都不代表固定的底層模型。
步驟 3：CometAPI Auto 如何選擇模型？
當你以 model=auto 或 model=auto-high 發送請求時，CometAPI 會先辨識請求的特徵，並判定最符合的路由場景。系統可考量的因素包括客戶端類型、請求是否包含影像或檔案、估計的輸入情境長度、工具使用、結構化輸出需求、串流，以及其他受支援的能力。
在識別出合適的路由場景後，CometAPI 會從對應的 auto 或 auto-high 模型池中選擇候選模型。被停用、對使用者群組不可用、與請求不相容、或無法支援所需情境或能力的模型會被排除。剩餘候選模型將依據已設定的路由優先順序、權重與可用性進行評估。
接著，所選模型會交由 CometAPI 既有的通道路由系統，為該模型與使用者群組尋找可用通道。因此，最終模型不一定事先固定，並會依據請求與當前的路由設定而變動。