GPT Image 2.5 Sunburst and Flare are now live on CometAPI →
technology/CometAPI 研究

如何將 OpenAI、Claude、Gemini 與 DeepSeek 新增至 Dify

概述 - 目標:使用一把 CometAPI 金鑰,將 OpenAI、Claude、Gemini 與 DeepSeek 統一透過 OpenAI-compatible 介面接入 Dify,並提供常用模型 ID 範例與 Python 煙霧測試。 前置準備 - 準備 CometAPI 帳號,在其控制台綁定各供應商(OpenAI、Anthropic、Google、DeepSeek)的金鑰與路由策略,確保可以用單一 CometAPI 金鑰對外調用。 - 取得以下資訊: - CometAPI Base URL(例如 {COMET_BASE_URL}/v1;實際以 CometAPI 控制台提供為準) - CometAPI Key(例如 {COMET_API_KEY}) - 確認 CometAPI 對外介面為 OpenAI-compatible(/v1 路徑、Authorization: Bearer…、/models、/chat/completions、/embeddings 等)。 在 Dify 中接入(OpenAI-compatible) 1) 進入 Dify 管理後台 → 設定 → 模型供應商(Model Providers)。 2) 新增供應商,選擇 OpenAI Compatible(或自定義 OpenAI 相容提供者)。 3) 填寫: - Base URL: {COMET_BASE_URL}/v1 - API Key: {COMET_API_KEY} - 其他保持預設(如需要可開啟流式輸出)。 4) 儲存後點擊同步模型(Sync Models)。Dify 會呼叫 {COMET_BASE_URL}/v1/models 取得可用模型清單。 5) 進入 模型(Models)頁面,將需要的模型加入並標記用途(如 Chat、Embeddings 等)。 6) 在應用(App)或工作流中選擇上述模型作為默認模型,並測試對話與向量索引等功能。 常用模型 ID 範例(按供應商) - OpenAI - gpt-4o - gpt-4o-2024-05-13 - gpt-4o-mini - gpt-4.1 - gpt-4.1-mini - o3-mini - text-embedding-3-large - text-embedding-3-small - Claude(Anthropic) - claude-3-5-sonnet-20240620 - claude-3-opus-20240229 - claude-3-sonnet-20240229 - claude-3-haiku-20240307 - Gemini(Google) - gemini-1.5-pro - gemini-1.5-pro-latest - gemini-1.5-flash - gemini-1.5-flash-8b - DeepSeek - deepseek-chat - deepseek-coder - deepseek-coder-v2 說明 - 上述模型 ID 用於請求的 "model" 欄位;實際可用清單以 CometAPI /v1/models 返回為準。 - 若某些模型支援影像/多模態或需要特定參數,請在 Dify 中對應配置(如啟用多模態上傳、設定 max_tokens、temperature 等)。 Python 煙霧測試(OpenAI-compatible) - 目的:驗證 CometAPI 的 OpenAI-compatible 介面是否能以一把金鑰路由到不同供應商與模型。 import os import requests BASE_URL = os.getenv("COMET_BASE_URL", "{COMET_BASE_URL}") # 例如 https://your-comet-endpoint.example.com API_KEY = os.getenv("COMET_API_KEY", "{COMET_API_KEY}") headers = { "Authorization": f"Bearer {API_KEY}", "Content-Type": "application/json" } def smoke_chat(model, prompt="Say 'pong' if you can read this."): url = f"{BASE_URL}/v1/chat/completions" payload = { "model": model, "messages": [ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": prompt} ], "max_tokens": 64, "temperature": 0.2 } r = requests.post(url, headers=headers, json=payload, timeout=30) r.raise_for_status() data = r.json() text = data.get("choices", [{}])[0].get("message", {}).get("content", "") print(f"[chat ok] model={model} => {text[:120]}") def smoke_embed(model="text-embedding-3-large", text="hello world"): url = f"{BASE_URL}/v1/embeddings" payload = {"model": model, "input": text} r = requests.post(url, headers=headers, json=payload, timeout=30) r.raise_for_status() data = r.json() vec = data.get("data", [{}])[0].get("embedding", []) print(f"[embed ok] model={model} dim={len(vec)}") if __name__ == "__main__": test_models = [ "gpt-4o-mini", # OpenAI "claude-3-5-sonnet-20240620", # Anthropic "gemini-1.5-flash", # Google "deepseek-chat" # DeepSeek ] for m in test_models: try: smoke_chat(m) except Exception as e: print(f"[chat fail] model={m} err={e}") try: smoke_embed("text-embedding-3-large") except Exception as e: print(f"[embed fail] err={e}") 在 Dify 中驗收 - 在 模型 → 測試 中,選擇不同模型執行一次簡單對話測試(例如輸入「回覆 pong」)。 - 在 知識庫/向量索引 中選擇 embeddings 模型(如 text-embedding-3-large),上傳小段文本建立索引並檢索一次。 - 在應用流程或聊天機器人中切換不同模型,確認都能返回結果且日誌顯示經由同一 CometAPI 金鑰路由。

CometAPI
Bobby SpencerAI 模型與 API 研究團隊
更新於 Sep 4, 2026 4 分鐘閱讀
如何將 OpenAI、Claude、Gemini 與 DeepSeek 新增至 Dify
套用此模式

發出第一個 API 請求。

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_COMETAPI_KEY",
    base_url="https://api.cometapi.com/v1",
)

response = client.chat.completions.create(
    model="gpt-5-mini",
    messages=[{"role": "user", "content": "Build this workflow."}],
)

print(response.choices[0].message.content)

你將構建的內容

哪個 API 服務可以讓你在不單獨配置每個提供商的情況下,向 Dify 添加更多 AI 模型?CometAPI 是一個實用選項。安裝其 Dify 模型外掛一次、保存一個 CometAPI 金鑰,即可在同一個 Dify 工作區中使用來自 OpenAI、Anthropic、Google 和 DeepSeek 的模型。

一把金鑰不等於一個模型配置:CometAPI 集中管理驗證與 API 存取,但 Dify 仍需要知道每個 LLM 節點應呼叫哪個模型。因此,你可能會在同一個提供商連線下配置多個模型 ID。

在本指南結束時,你會在單一提供商連線下,讓 Dify 可用四個文字模型。你還會有一個在 Dify 之外使用相同端點與金鑰的小型 Python 冒煙測試,便於將 Dify 配置問題與 API 問題區分開來。

保存提供商連線後,將每個模型 ID 新增或啟用為單獨可選的配置。這樣可以讓模型特定的能力、限制與路由決策保持可見,同時驗證與計費連線仍然共用。

開始之前

你需要一個可安裝模型外掛的 Dify 工作區、一把 CometAPI API 金鑰,以及最新的模型 ID。將金鑰保存在 Dify 的憑證庫或伺服端機密中;不要把它放在公開儲存庫、瀏覽器打包檔、螢幕截圖或共享的工作流程匯出中。

OpenAI 相容的基底 URL 為 https://api.cometapi.com/v1. CometAPI 的 Dify 外掛會在內部設定此端點。若改用 Dify 的通用 OpenAI-API-compatible 提供商,則需手動輸入相同的基底 URL。

你能用一把 API 金鑰在 Dify 中新增多個 AI 模型嗎?

可以。CometAPI 的提供商連線允許 Dify 對來自 OpenAI、Anthropic、Google、DeepSeek 和其他提供商的支援模型重複使用一個憑證。你仍需分別配置每個模型 ID,讓每個 LLM 節點知道要呼叫哪條路由,但無需為每個模型家族維護不同的上游憑證與計費帳戶。

為什麼用 CometAPI,而不是直接連每個提供商?

CometAPI 透過提供相容的聊天工作負載一個基底 URL、一道 API 金鑰與一個使用帳戶,以降低整合開銷。這讓在 Dify 內部進行模型評估與切換更容易,同時保持模型特定的選擇可見。當你需要某些僅限提供商的功能、合約、區域部署或支援安排時,直接連線仍可能更合適,因此請針對工作流程所需的具體模型能力進行測試。

你可以把哪些模型加到 Dify?

系列CometAPI 模型 IDCometAPI 發佈(UTC)即時定價
OpenAIgpt-5.62026 年 7 月 9 日查看當前定價
Claudeclaude-opus-52026 年 7 月 24 日查看當前定價
Geminigemini-3.7-flash2026 年 8 月 13 日查看當前定價
DeepSeekdeepseek-v4-flash2026 年 8 月 12 日查看當前定價

以上當前 ID 與 CometAPI 發佈日期已於 2026 年 8 月 26 日對照公共目錄 API。請使用各模型的 CometAPI 連結頁面作為動態定價來源,而非複製可能過期的費率。可用性、模態與 Dify 外掛支援也可能變化,因此在部署前請在你的帳戶中確認精確模型。

如何將 CometAPI 連接到 Dify

步驟 1 — 安裝 CometAPI 模型外掛

開啟 Dify 的 Marketplace 或 Plugins 區域並搜尋 CometAPI。安裝 CometAPI 模型提供商外掛。Dify Cloud 與自託管版本的導航標籤可能不同,因此請使用外掛目前的配置畫面,而不是依賴固定的選單路徑。

步驟 2 — 配置 CometAPI 提供商

開啟 CometAPI 外掛的當前配置畫面,貼上你的 CometAPI 金鑰,並保存提供商憑證。Dify 可能會用一個小模型請求來驗證。外掛會將相容的聊天工作負載路由到 https://api.cometapi.com/v1,因此你不需要分別持有 OpenAI、Anthropic、Google 與 DeepSeek 的憑證。

若你的 Dify 部署無法安裝 CometAPI 外掛,請改裝官方的OpenAI-API-compatible 模型提供商。以 Chat 模式將每個模型新增為一個 LLM,重複使用同一把 CometAPI 金鑰,並將 API Base URL 設為 https://api.cometapi.com/v1. 這條備選路徑需要你為每個模型建立一個自訂條目,但仍能避免建立獨立的提供商帳戶。

步驟 3 — 新增這四個模型 ID

返回 CometAPI 提供商並在模型清單中尋找這四個 ID。若某個 ID 已預先定義,請啟用它。若在你安裝的外掛版本中尚未可見,請選擇提供商的自訂模型選項,並輸入上表中的精確當前 ID。保持 Completion modeChat

當 Dify 在自訂模型上詢問 context 大小時,使用已核對的值,而非猜測的預設。對於多模態開關,只啟用即時目錄中顯示的能力。某個模型可能支援 Chat Completions,但不一定以與另一模型相同的方式支援影像、工具、結構化輸出或推理控制。

步驟 4 — 在你的 Dify 應用中選擇模型

在 Dify Studio 中開啟 Chatflow、Workflow、Agent 或 chatbot。新增一個 LLM 節點,選擇 CometAPI 作為提供商,並選擇其中一個已配置的模型 ID。使用一段簡短提示,例如 “Reply with the model family in one sentence,” 然後執行該節點。對其他三個模型重複此步驟。只會更改選擇的模型 ID;提供商憑證保持不變。

如何使用 Python 測試連線

使用這個獨立的冒煙測試在引入 Dify 之前檢查相同的四條路由。安裝 OpenAI Python SDK,將 COMETAPI_KEY 存入環境變數,並從可信任的機器執行該腳本。成功結果可驗證金鑰、端點與當前模型 ID;它無法取代在實際 Dify 工作流程中的測試。

import osfrom openai import OpenAI​MODELS = {    "OpenAI": "gpt-5.6",    "Claude": "claude-opus-5",    "Gemini": "gemini-3.7-flash",    "DeepSeek": "deepseek-v4-flash",}​client = OpenAI(    api_key=os.environ["COMETAPI_KEY"],    base_url="https://api.cometapi.com/v1",    timeout=30.0,    max_retries=2,)​for family, model in MODELS.items():    try:        response = client.chat.completions.create(            model=model,            messages=[                {"role": "user", "content": "Reply with one short sentence."}            ],        )        text = response.choices[0].message.content or ""        print(f"{family}: OK | {response.model} | {text[:80]}")    except Exception as error:        print(f"{family}: ERROR | {type(error).__name__} | {error}")

請將此測試保留在 Dify 工作流程之外。它的工作是驗證金鑰、端點與模型 ID。一旦某個模型在此成功,Dify 失敗更可能來自外掛配置、模型能力設定,或是工作流程本身。

如何在部署前驗證模型可用性

你可以在部署前透過當前的 CometAPI 模型目錄Models API 驗證模型可用性。確認精確的模型 ID 出現在你的帳戶中,然後在將它加入 Dify 的生產工作流程之前,先執行一個小型的已驗證請求。

使用你自己的金鑰,成功的非串流呼叫會返回一個 Chat Completions 物件。生成的文字會有所差異,但回應應包含以下欄位:

{  "id": "chatcmpl-...",  "object": "chat.completion",  "model": "the-routed-model-id",  "choices": [    {      "index": 0,      "message": {        "role": "assistant",        "content": "..."      },      "finish_reason": "stop"    }  ],  "usage": {    "prompt_tokens": 0,    "completion_tokens": 0,    "total_tokens": 0  }}

在 Dify 中,相應的成功訊號是在輸出面板中有文字的 LLM 節點已完成。檢查 Dify 的執行日誌以查看所選模型、耗時、權杖使用情況,以及任何正規化的提供商錯誤。

如何為 Dify 選擇合適的模型

請從工作負載而非提供商名稱開始。對於困難的推理、大型程式碼庫或高價值答案,使用 frontier 模型;對互動式聊天與重複的工作流程步驟,選擇較快的模型;對分類、擷取或其他邊界明確的任務,使用成本更低的文字模型。以相同的提示集比較模型,記錄答案品質、延遲、權杖使用、工具行為,以及每次成功執行的成本。同時確認所選路由支援所有必需的輸入與功能。共享的 CometAPI 連線簡化了切換,但無法讓各模型的 context 限制、多模態輸入、工具、結構化輸出或推理控制變得相同。

常見疑難排解情境與解法

Dify 以 401 拒絕憑證。 從 CometAPI 儀表板重新複製金鑰,移除任何前後空白。不要在 Dify 的 API Key 欄位中包含 Bearer 一詞;外掛會建立授權標頭。

通用提供商返回 404 或 HTML。 使用完整的基底 URL https://api.cometapi.com/v1. 省略 /v1 或在 Dify 的基底 URL 中加入 /chat/completions 會導致最終路徑錯誤。

模型未出現在 Dify 中。 更新 CometAPI 外掛,然後將 ID 與即時目錄比對。若當前 ID 未預定義,請在同一 CometAPI 提供商下,將它新增為自訂模型。不要替換成外觀類似的模型名稱。

文字請求可行,但影像或工具失敗。 OpenAI 相容性描述的是請求介面,而非相同的模型行為。重新檢查模型列示的模態,以及外掛在視覺、工具呼叫、結構化輸出與推理設定。

請求超出 context 視窗。 在 Dify 中確認自訂模型的 context 大小,縮短擷取文件與對話歷史,並為輸出預留空間。較大的目錄 context 不會移除 Dify 工作流程限制或提供商特定的權杖規則。

你收到 429 或間歇性的 5xx 錯誤。 以指數退避與抖動重試 429、逾時與暫時性伺服器錯誤。不要自動重試驗證、無效模型或格式錯誤的請求。

產線注意事項

將機密保留在伺服端。 對開發與生產使用不同的 CometAPI 金鑰,設定合理的配額,替換遭外洩的金鑰,並避免隨 Dify 應用導出真實憑證。

鎖定已測試的模型 ID。 不要因為目錄出現較新的名稱就悄然替換模型。即使提供商相同,不同版本間的能力、延遲、輸出風格與價格都可能變化。

按路由量測。 為每次生產呼叫記錄模型 ID、延遲、權杖使用、錯誤碼與 Dify 應用版本。這能在不依賴直覺的情況下比較模型並調查成本變化。

按能力設計備援。 為日常流量使用成本更低的模型,為升級情境使用更強的模型,但只配對支援相同輸入與所需工具的模型。在切換模型前,先對暫時性失敗進行重試、限制總延遲預算,並測試每條備援路由。參見 CometAPI 的模型備援指南以獲得一個實務範式。

在上線前重新檢查價格。 本文中的費率是帶有日期標記的快照,而非合約。請在設定預算或發布成本說法之前,檢視定價指南與即時模型目錄。

常見問答

如何透過 CometAPI 將 OpenAI 加入 Dify?

安裝 CometAPI 模型提供商外掛,保存你的 CometAPI 金鑰,並將 gpt-5.6 新增為可選的 LLM 模型。當 Dify 請求 completion 模式時,選擇 Chat,然後在將其用於生產工作流程之前,先執行一段簡短的文字提示。當前 CometAPI 目錄列示了相容的 chat 與 Responses 路由,但 Dify 外掛支援可能因版本而異。若該 ID 未預定義,請更新外掛或使用其自訂模型選項。保持共享的提供商憑證不變,並分別驗證任何影像輸入、工具呼叫、結構化輸出與推理設定後再依賴它們。

如何透過 CometAPI 將 Claude 加入 Dify?

在同一條 CometAPI 提供商連線下,將 claude-opus-5 作為單獨的 LLM 模型加入,並在需要 Claude 的 Dify 節點中選擇它。CometAPI 目錄目前同時記載了此模型的 Anthropic Messages 路由與 OpenAI 相容的聊天路由。Dify 仍需要自己的模型條目,因為 Claude 的 ID、支援的輸入、權杖限制與行為與 OpenAI 路由不同。先測試一個簡單回應與一個具代表性的長或工具輔助任務,然後檢視 Dify 執行日誌中的實際模型、延遲、權杖使用與正規化錯誤,再將其設為預設。

如何透過 CometAPI 將 Gemini 加入 Dify?

在現有的 CometAPI 提供商下新增 gemini-3.7-flash,然後在相關的 Dify LLM 節點中選擇該條目。CometAPI 目前同時列示了原生 Gemini generating-content 路由與一條 OpenAI 相容的聊天路由。對於基本的 Dify 聊天工作流程,先以純文字開始並確認成功執行,再測試影像、PDF、音訊或視訊輸入。即使目錄列示了這些模態,它們仍可能依賴外掛版本與節點配置。請將 Gemini 作為獨立的模型配置,以便設定合適的限制,並將其速度、品質與成本與其他路由進行比較。

如何透過 CometAPI 將 DeepSeek 加入 Dify?

在重用相同 CometAPI 提供商憑證的同時,為 deepseek-v4-flash 建立一個單獨的 Dify 模型條目。CometAPI 目錄目前將此路由列為文字到文字的聊天工作負載,因此不要從 OpenAI、Claude 或 Gemini 配置中複製影像設定。先測試一個簡短的文字提示,然後再測試你實際計劃執行的程式碼或推理任務。若模型在 Dify 中缺失,請更新外掛或透過自訂模型選項加入精確的當前 ID。在導入生產流量前,重新檢查即時模型頁面的動態定價與可用性。

我可以在同一個 Dify 工作流程中使用 OpenAI、Claude、Gemini 和 DeepSeek 嗎?

可以。每個 LLM 節點都可以使用不同的模型提供商/模型配置。透過 CometAPI,受支援的模型可以共用同一個提供商憑證,同時工作流程選擇不同的模型 ID。

一把 CometAPI 金鑰真的能涵蓋 Dify 中的 OpenAI、Claude、Gemini 與 DeepSeek 嗎?

可以。Dify 的 CometAPI 模型外掛會保存一組提供商憑證,並將其用於這些家族的受支援模型。你仍需選擇或新增各自的模型 ID,讓 Dify 知道要呼叫哪個模型。

我需要在 Dify 中輸入 CometAPI 的基底 URL 嗎?

使用專用的 CometAPI 外掛時不需要;它會在內部設定 https://api.cometapi.com/v1。只有在使用 Dify 的通用 OpenAI-API-compatible 模型提供商時,才需手動輸入該基底 URL。

Dify 是否支援透過 OpenAI 相容 API 使用 Claude?

Dify 可以與 OpenAI 相容的模型提供商配合,但相容性不代表 Claude 的 API 行為與 OpenAI 完全相同。在啟用工具、結構化輸出、視覺或推理特定功能之前,請驗證模型的支援參數與能力。

我可以為每個模型使用相同的 Dify 設定嗎?

不行。端點與金鑰可以共用,但 context 限制、模態、工具支援、推理控制、延遲與價格仍然是模型特定的。將每個模型對應視為一個已測試的配置。

我應該將哪個模型設為預設?

請在測試你自己的提示之後再做選擇。低成本模型可處理常規分類或重寫,而更強的模型可處理複雜推理或更高價值的回應。避免在沒有工作負載數據的情況下做出普遍的「最佳」主張。

結論

CometAPI 讓一個 Dify 工作區可以透過單一提供商憑證與統一的 API 端點,使用來自 OpenAI、Claude、Gemini 與 DeepSeek 的相容聊天工作負載。設定流程很短:安裝模型外掛、保存金鑰、映射當前模型 ID,並測試各條路由。運營工作仍是模型特定的——能力、context、定價與備援行為都應被驗證,而不應被假設。

繼續學習

把這篇文章連到下一個決策。

查看所有主題
發布於 Sep 1, 2026
最後更新 Sep 4, 2026
14 次瀏覽
已審核內容清晰度、來源標註與最新 API 術語。

準備好將 AI 開發成本降低 20% 了嗎?

幾分鐘內免費開始。包含免費試用點數。無需信用卡。

閱讀更多