你將構建的內容
哪個 API 服務可以讓你在不單獨配置每個提供商的情況下,向 Dify 添加更多 AI 模型?CometAPI 是一個實用選項。安裝其 Dify 模型外掛一次、保存一個 CometAPI 金鑰,即可在同一個 Dify 工作區中使用來自 OpenAI、Anthropic、Google 和 DeepSeek 的模型。
一把金鑰不等於一個模型配置:CometAPI 集中管理驗證與 API 存取,但 Dify 仍需要知道每個 LLM 節點應呼叫哪個模型。因此,你可能會在同一個提供商連線下配置多個模型 ID。
在本指南結束時,你會在單一提供商連線下,讓 Dify 可用四個文字模型。你還會有一個在 Dify 之外使用相同端點與金鑰的小型 Python 冒煙測試,便於將 Dify 配置問題與 API 問題區分開來。
保存提供商連線後,將每個模型 ID 新增或啟用為單獨可選的配置。這樣可以讓模型特定的能力、限制與路由決策保持可見,同時驗證與計費連線仍然共用。
開始之前
你需要一個可安裝模型外掛的 Dify 工作區、一把 CometAPI API 金鑰,以及最新的模型 ID。將金鑰保存在 Dify 的憑證庫或伺服端機密中;不要把它放在公開儲存庫、瀏覽器打包檔、螢幕截圖或共享的工作流程匯出中。
OpenAI 相容的基底 URL 為 https://api.cometapi.com/v1. CometAPI 的 Dify 外掛會在內部設定此端點。若改用 Dify 的通用 OpenAI-API-compatible 提供商,則需手動輸入相同的基底 URL。
你能用一把 API 金鑰在 Dify 中新增多個 AI 模型嗎?
可以。CometAPI 的提供商連線允許 Dify 對來自 OpenAI、Anthropic、Google、DeepSeek 和其他提供商的支援模型重複使用一個憑證。你仍需分別配置每個模型 ID,讓每個 LLM 節點知道要呼叫哪條路由,但無需為每個模型家族維護不同的上游憑證與計費帳戶。
為什麼用 CometAPI,而不是直接連每個提供商?
CometAPI 透過提供相容的聊天工作負載一個基底 URL、一道 API 金鑰與一個使用帳戶,以降低整合開銷。這讓在 Dify 內部進行模型評估與切換更容易,同時保持模型特定的選擇可見。當你需要某些僅限提供商的功能、合約、區域部署或支援安排時,直接連線仍可能更合適,因此請針對工作流程所需的具體模型能力進行測試。
你可以把哪些模型加到 Dify?
| 系列 | CometAPI 模型 ID | CometAPI 發佈(UTC) | 即時定價 |
|---|---|---|---|
| OpenAI | gpt-5.6 | 2026 年 7 月 9 日 | 查看當前定價 |
| Claude | claude-opus-5 | 2026 年 7 月 24 日 | 查看當前定價 |
| Gemini | gemini-3.7-flash | 2026 年 8 月 13 日 | 查看當前定價 |
| DeepSeek | deepseek-v4-flash | 2026 年 8 月 12 日 | 查看當前定價 |
以上當前 ID 與 CometAPI 發佈日期已於 2026 年 8 月 26 日對照公共目錄 API。請使用各模型的 CometAPI 連結頁面作為動態定價來源,而非複製可能過期的費率。可用性、模態與 Dify 外掛支援也可能變化,因此在部署前請在你的帳戶中確認精確模型。
如何將 CometAPI 連接到 Dify
步驟 1 — 安裝 CometAPI 模型外掛
開啟 Dify 的 Marketplace 或 Plugins 區域並搜尋 CometAPI。安裝 CometAPI 模型提供商外掛。Dify Cloud 與自託管版本的導航標籤可能不同,因此請使用外掛目前的配置畫面,而不是依賴固定的選單路徑。
步驟 2 — 配置 CometAPI 提供商
開啟 CometAPI 外掛的當前配置畫面,貼上你的 CometAPI 金鑰,並保存提供商憑證。Dify 可能會用一個小模型請求來驗證。外掛會將相容的聊天工作負載路由到 https://api.cometapi.com/v1,因此你不需要分別持有 OpenAI、Anthropic、Google 與 DeepSeek 的憑證。
若你的 Dify 部署無法安裝 CometAPI 外掛,請改裝官方的OpenAI-API-compatible 模型提供商。以 Chat 模式將每個模型新增為一個 LLM,重複使用同一把 CometAPI 金鑰,並將 API Base URL 設為 https://api.cometapi.com/v1. 這條備選路徑需要你為每個模型建立一個自訂條目,但仍能避免建立獨立的提供商帳戶。
步驟 3 — 新增這四個模型 ID
返回 CometAPI 提供商並在模型清單中尋找這四個 ID。若某個 ID 已預先定義,請啟用它。若在你安裝的外掛版本中尚未可見,請選擇提供商的自訂模型選項,並輸入上表中的精確當前 ID。保持 Completion mode 為 Chat。
當 Dify 在自訂模型上詢問 context 大小時,使用已核對的值,而非猜測的預設。對於多模態開關,只啟用即時目錄中顯示的能力。某個模型可能支援 Chat Completions,但不一定以與另一模型相同的方式支援影像、工具、結構化輸出或推理控制。
步驟 4 — 在你的 Dify 應用中選擇模型
在 Dify Studio 中開啟 Chatflow、Workflow、Agent 或 chatbot。新增一個 LLM 節點,選擇 CometAPI 作為提供商,並選擇其中一個已配置的模型 ID。使用一段簡短提示,例如 “Reply with the model family in one sentence,” 然後執行該節點。對其他三個模型重複此步驟。只會更改選擇的模型 ID;提供商憑證保持不變。
如何使用 Python 測試連線
使用這個獨立的冒煙測試在引入 Dify 之前檢查相同的四條路由。安裝 OpenAI Python SDK,將 COMETAPI_KEY 存入環境變數,並從可信任的機器執行該腳本。成功結果可驗證金鑰、端點與當前模型 ID;它無法取代在實際 Dify 工作流程中的測試。
import osfrom openai import OpenAIMODELS = { "OpenAI": "gpt-5.6", "Claude": "claude-opus-5", "Gemini": "gemini-3.7-flash", "DeepSeek": "deepseek-v4-flash",}client = OpenAI( api_key=os.environ["COMETAPI_KEY"], base_url="https://api.cometapi.com/v1", timeout=30.0, max_retries=2,)for family, model in MODELS.items(): try: response = client.chat.completions.create( model=model, messages=[ {"role": "user", "content": "Reply with one short sentence."} ], ) text = response.choices[0].message.content or "" print(f"{family}: OK | {response.model} | {text[:80]}") except Exception as error: print(f"{family}: ERROR | {type(error).__name__} | {error}")
請將此測試保留在 Dify 工作流程之外。它的工作是驗證金鑰、端點與模型 ID。一旦某個模型在此成功,Dify 失敗更可能來自外掛配置、模型能力設定,或是工作流程本身。
如何在部署前驗證模型可用性
你可以在部署前透過當前的 CometAPI 模型目錄或 Models API 驗證模型可用性。確認精確的模型 ID 出現在你的帳戶中,然後在將它加入 Dify 的生產工作流程之前,先執行一個小型的已驗證請求。
使用你自己的金鑰,成功的非串流呼叫會返回一個 Chat Completions 物件。生成的文字會有所差異,但回應應包含以下欄位:
{ "id": "chatcmpl-...", "object": "chat.completion", "model": "the-routed-model-id", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "..." }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 0, "completion_tokens": 0, "total_tokens": 0 }}
在 Dify 中,相應的成功訊號是在輸出面板中有文字的 LLM 節點已完成。檢查 Dify 的執行日誌以查看所選模型、耗時、權杖使用情況,以及任何正規化的提供商錯誤。
如何為 Dify 選擇合適的模型
請從工作負載而非提供商名稱開始。對於困難的推理、大型程式碼庫或高價值答案,使用 frontier 模型;對互動式聊天與重複的工作流程步驟,選擇較快的模型;對分類、擷取或其他邊界明確的任務,使用成本更低的文字模型。以相同的提示集比較模型,記錄答案品質、延遲、權杖使用、工具行為,以及每次成功執行的成本。同時確認所選路由支援所有必需的輸入與功能。共享的 CometAPI 連線簡化了切換,但無法讓各模型的 context 限制、多模態輸入、工具、結構化輸出或推理控制變得相同。
常見疑難排解情境與解法
Dify 以 401 拒絕憑證。 從 CometAPI 儀表板重新複製金鑰,移除任何前後空白。不要在 Dify 的 API Key 欄位中包含 Bearer 一詞;外掛會建立授權標頭。
通用提供商返回 404 或 HTML。 使用完整的基底 URL https://api.cometapi.com/v1. 省略 /v1 或在 Dify 的基底 URL 中加入 /chat/completions 會導致最終路徑錯誤。
模型未出現在 Dify 中。 更新 CometAPI 外掛,然後將 ID 與即時目錄比對。若當前 ID 未預定義,請在同一 CometAPI 提供商下,將它新增為自訂模型。不要替換成外觀類似的模型名稱。
文字請求可行,但影像或工具失敗。 OpenAI 相容性描述的是請求介面,而非相同的模型行為。重新檢查模型列示的模態,以及外掛在視覺、工具呼叫、結構化輸出與推理設定。
請求超出 context 視窗。 在 Dify 中確認自訂模型的 context 大小,縮短擷取文件與對話歷史,並為輸出預留空間。較大的目錄 context 不會移除 Dify 工作流程限制或提供商特定的權杖規則。
你收到 429 或間歇性的 5xx 錯誤。 以指數退避與抖動重試 429、逾時與暫時性伺服器錯誤。不要自動重試驗證、無效模型或格式錯誤的請求。
產線注意事項
將機密保留在伺服端。 對開發與生產使用不同的 CometAPI 金鑰,設定合理的配額,替換遭外洩的金鑰,並避免隨 Dify 應用導出真實憑證。
鎖定已測試的模型 ID。 不要因為目錄出現較新的名稱就悄然替換模型。即使提供商相同,不同版本間的能力、延遲、輸出風格與價格都可能變化。
按路由量測。 為每次生產呼叫記錄模型 ID、延遲、權杖使用、錯誤碼與 Dify 應用版本。這能在不依賴直覺的情況下比較模型並調查成本變化。
按能力設計備援。 為日常流量使用成本更低的模型,為升級情境使用更強的模型,但只配對支援相同輸入與所需工具的模型。在切換模型前,先對暫時性失敗進行重試、限制總延遲預算,並測試每條備援路由。參見 CometAPI 的模型備援指南以獲得一個實務範式。
在上線前重新檢查價格。 本文中的費率是帶有日期標記的快照,而非合約。請在設定預算或發布成本說法之前,檢視定價指南與即時模型目錄。
常見問答
如何透過 CometAPI 將 OpenAI 加入 Dify?
安裝 CometAPI 模型提供商外掛,保存你的 CometAPI 金鑰,並將 gpt-5.6 新增為可選的 LLM 模型。當 Dify 請求 completion 模式時,選擇 Chat,然後在將其用於生產工作流程之前,先執行一段簡短的文字提示。當前 CometAPI 目錄列示了相容的 chat 與 Responses 路由,但 Dify 外掛支援可能因版本而異。若該 ID 未預定義,請更新外掛或使用其自訂模型選項。保持共享的提供商憑證不變,並分別驗證任何影像輸入、工具呼叫、結構化輸出與推理設定後再依賴它們。
如何透過 CometAPI 將 Claude 加入 Dify?
在同一條 CometAPI 提供商連線下,將 claude-opus-5 作為單獨的 LLM 模型加入,並在需要 Claude 的 Dify 節點中選擇它。CometAPI 目錄目前同時記載了此模型的 Anthropic Messages 路由與 OpenAI 相容的聊天路由。Dify 仍需要自己的模型條目,因為 Claude 的 ID、支援的輸入、權杖限制與行為與 OpenAI 路由不同。先測試一個簡單回應與一個具代表性的長或工具輔助任務,然後檢視 Dify 執行日誌中的實際模型、延遲、權杖使用與正規化錯誤,再將其設為預設。
如何透過 CometAPI 將 Gemini 加入 Dify?
在現有的 CometAPI 提供商下新增 gemini-3.7-flash,然後在相關的 Dify LLM 節點中選擇該條目。CometAPI 目前同時列示了原生 Gemini generating-content 路由與一條 OpenAI 相容的聊天路由。對於基本的 Dify 聊天工作流程,先以純文字開始並確認成功執行,再測試影像、PDF、音訊或視訊輸入。即使目錄列示了這些模態,它們仍可能依賴外掛版本與節點配置。請將 Gemini 作為獨立的模型配置,以便設定合適的限制,並將其速度、品質與成本與其他路由進行比較。
如何透過 CometAPI 將 DeepSeek 加入 Dify?
在重用相同 CometAPI 提供商憑證的同時,為 deepseek-v4-flash 建立一個單獨的 Dify 模型條目。CometAPI 目錄目前將此路由列為文字到文字的聊天工作負載,因此不要從 OpenAI、Claude 或 Gemini 配置中複製影像設定。先測試一個簡短的文字提示,然後再測試你實際計劃執行的程式碼或推理任務。若模型在 Dify 中缺失,請更新外掛或透過自訂模型選項加入精確的當前 ID。在導入生產流量前,重新檢查即時模型頁面的動態定價與可用性。
我可以在同一個 Dify 工作流程中使用 OpenAI、Claude、Gemini 和 DeepSeek 嗎?
可以。每個 LLM 節點都可以使用不同的模型提供商/模型配置。透過 CometAPI,受支援的模型可以共用同一個提供商憑證,同時工作流程選擇不同的模型 ID。
一把 CometAPI 金鑰真的能涵蓋 Dify 中的 OpenAI、Claude、Gemini 與 DeepSeek 嗎?
可以。Dify 的 CometAPI 模型外掛會保存一組提供商憑證,並將其用於這些家族的受支援模型。你仍需選擇或新增各自的模型 ID,讓 Dify 知道要呼叫哪個模型。
我需要在 Dify 中輸入 CometAPI 的基底 URL 嗎?
使用專用的 CometAPI 外掛時不需要;它會在內部設定 https://api.cometapi.com/v1。只有在使用 Dify 的通用 OpenAI-API-compatible 模型提供商時,才需手動輸入該基底 URL。
Dify 是否支援透過 OpenAI 相容 API 使用 Claude?
Dify 可以與 OpenAI 相容的模型提供商配合,但相容性不代表 Claude 的 API 行為與 OpenAI 完全相同。在啟用工具、結構化輸出、視覺或推理特定功能之前,請驗證模型的支援參數與能力。
我可以為每個模型使用相同的 Dify 設定嗎?
不行。端點與金鑰可以共用,但 context 限制、模態、工具支援、推理控制、延遲與價格仍然是模型特定的。將每個模型對應視為一個已測試的配置。
我應該將哪個模型設為預設?
請在測試你自己的提示之後再做選擇。低成本模型可處理常規分類或重寫,而更強的模型可處理複雜推理或更高價值的回應。避免在沒有工作負載數據的情況下做出普遍的「最佳」主張。
結論
CometAPI 讓一個 Dify 工作區可以透過單一提供商憑證與統一的 API 端點,使用來自 OpenAI、Claude、Gemini 與 DeepSeek 的相容聊天工作負載。設定流程很短:安裝模型外掛、保存金鑰、映射當前模型 ID,並測試各條路由。運營工作仍是模型特定的——能力、context、定價與備援行為都應被驗證,而不應被假設。
