Những gì bạn sẽ xây dựng
Dịch vụ API nào cho phép bạn thêm nhiều mô hình AI vào Dify mà không phải thiết lập từng nhà cung cấp riêng lẻ? CometAPI là một lựa chọn thực tế. Cài đặt plugin mô hình CometAPI cho Dify một lần, lưu một khóa CometAPI, và sử dụng các mô hình từ OpenAI, Anthropic, Google, và DeepSeek trong cùng một không gian làm việc Dify.
Một khóa không đồng nghĩa với một cấu hình mô hình: CometAPI tập trung hóa xác thực và truy cập API, nhưng Dify vẫn cần biết mỗi nút LLM sẽ gọi mô hình nào. Do đó bạn có thể cấu hình nhiều ID mô hình dưới cùng một kết nối nhà cung cấp.
Kết thúc hướng dẫn này, bạn sẽ có bốn mô hình văn bản khả dụng trong Dify dưới một kết nối nhà cung cấp. Bạn cũng sẽ có một bài kiểm thử smoke Python nhỏ sử dụng cùng endpoint và khóa bên ngoài Dify, giúp dễ dàng tách biệt vấn đề cấu hình Dify với vấn đề API.
Sau khi lưu kết nối nhà cung cấp, hãy thêm hoặc bật từng ID mô hình như một cấu hình có thể chọn riêng. Điều này giữ cho các khả năng, giới hạn và quyết định định tuyến riêng theo mô hình luôn hiển thị, trong khi kết nối xác thực và thanh toán vẫn được chia sẻ.
Trước khi bắt đầu
Bạn cần một không gian làm việc Dify nơi bạn có thể cài đặt plugin mô hình, một khóa API CometAPI, và các ID mô hình hiện tại. Giữ khóa trong kho thông tin xác thực của Dify hoặc một bí mật phía máy chủ; không đặt nó trong kho công khai, gói trình duyệt, ảnh chụp màn hình, hoặc bản xuất workflow chia sẻ.
OpenAI-compatible base URL là https://api.cometapi.com/v1. Plugin Dify của CometAPI thiết lập endpoint này nội bộ. Nếu bạn dùng nhà cung cấp tương thích OpenAI API chung của Dify, hãy nhập thủ công cùng base URL.
Bạn có thể thêm nhiều mô hình AI vào Dify bằng một API key không?
Có. Một kết nối nhà cung cấp CometAPI cho phép Dify tái sử dụng một thông tin xác thực cho các mô hình được hỗ trợ từ OpenAI, Anthropic, Google, DeepSeek, và các nhà cung cấp khác. Bạn vẫn cấu hình riêng từng ID mô hình để mỗi nút LLM biết phải gọi route nào, nhưng bạn không cần duy trì thông tin xác thực upstream và tài khoản thanh toán khác nhau cho từng họ mô hình.
Tại sao dùng CometAPI thay vì kết nối trực tiếp từng nhà cung cấp?
CometAPI giảm chi phí tích hợp bằng cách cung cấp một base URL, một API key, và một tài khoản sử dụng cho các workload trò chuyện tương thích. Điều đó giúp việc đánh giá và chuyển đổi mô hình trong Dify dễ hơn, đồng thời vẫn giữ các lựa chọn theo mô hình rõ ràng. Kết nối trực tiếp nhà cung cấp vẫn có thể phù hợp khi bạn cần tính năng chỉ có ở nhà cung cấp, hợp đồng, triển khai theo vùng, hoặc hỗ trợ; vì vậy hãy kiểm thử các khả năng mô hình đúng như workflow của bạn yêu cầu.
Bạn có thể thêm những mô hình nào vào Dify?
| Họ | ID mô hình CometAPI | Ngày công bố trên CometAPI (UTC) | Giá hiện hành |
|---|---|---|---|
| OpenAI | gpt-5.6 | July 9, 2026 | Xem giá hiện hành |
| Claude | claude-opus-5 | July 24, 2026 | Xem giá hiện hành |
| Gemini | gemini-3.7-flash | August 13, 2026 | Xem giá hiện hành |
| DeepSeek | deepseek-v4-flash | August 12, 2026 | Xem giá hiện hành |
Các ID hiện tại và ngày công bố trên CometAPI ở trên đã được đối chiếu với public catalog API vào ngày 26 tháng 8, 2026. Hãy sử dụng từng trang mô hình CometAPI được liên kết như nguồn giá động thay vì sao chép một mức phí có thể lỗi thời. Tính sẵn sàng, chế độ, và hỗ trợ plugin của Dify cũng có thể thay đổi, vì vậy hãy xác nhận chính xác mô hình trong tài khoản của bạn trước khi triển khai.
Cách kết nối CometAPI với Dify
Bước 1 — Cài đặt plugin mô hình CometAPI
Mở Marketplace hoặc mục Plugins của Dify và tìm CometAPI. Cài đặt plugin nhà cung cấp mô hình CometAPI. Nhãn điều hướng chính xác có thể khác giữa Dify Cloud và bản tự lưu trữ, vì vậy hãy dùng màn hình cấu hình hiện tại của plugin thay vì dựa vào đường dẫn menu cố định.
Bước 2 — Cấu hình nhà cung cấp CometAPI
Mở màn hình cấu hình hiện tại của plugin CometAPI, dán khóa CometAPI của bạn, và lưu thông tin xác thực nhà cung cấp. Dify có thể xác thực bằng một yêu cầu mô hình nhỏ. Plugin định tuyến các workload trò chuyện tương thích qua https://api.cometapi.com/v1, vì vậy bạn không cần thông tin xác thực riêng cho OpenAI, Anthropic, Google và DeepSeek.
Nếu triển khai Dify của bạn không thể cài plugin CometAPI, hãy cài nhà cung cấp mô hình chính thức OpenAI-API-compatible. Thêm từng mô hình như một LLM ở chế độ Chat, tái sử dụng cùng khóa CometAPI, và đặt API Base URL là https://api.cometapi.com/v1. Lộ trình dự phòng này yêu cầu bạn tạo một mục tùy chỉnh cho mỗi mô hình, nhưng vẫn tránh được việc dùng tài khoản nhà cung cấp riêng.
Bước 3 — Thêm bốn ID mô hình
Quay lại nhà cung cấp CometAPI và tìm bốn ID trong danh sách mô hình. Nếu một ID đã được định nghĩa sẵn, hãy bật nó. Nếu nó chưa hiển thị trong phiên bản plugin đã cài, hãy chọn tùy chọn mô hình tùy chỉnh của nhà cung cấp và nhập chính xác ID hiện tại từ bảng ở trên. Giữ Completion mode ở Chat.
Khi Dify yêu cầu kích thước ngữ cảnh cho một mô hình tùy chỉnh, hãy dùng giá trị đã được kiểm tra thay vì một mặc định phỏng đoán. Đối với chuyển đổi đa phương thức, chỉ bật các khả năng hiển thị trong danh mục trực tiếp. Một mô hình có thể hỗ trợ Chat Completions nhưng không hỗ trợ hình ảnh, công cụ, đầu ra có cấu trúc, hoặc kiểm soát reasoning theo cách như mô hình khác.
Bước 4 — Chọn một mô hình trong ứng dụng Dify của bạn
Mở một Chatflow, Workflow, Agent, hoặc chatbot trong Dify Studio. Thêm một nút LLM, chọn CometAPI làm nhà cung cấp, và chọn một trong các ID mô hình đã cấu hình. Dùng một prompt ngắn như “Trả lời họ mô hình trong một câu”, rồi chạy nút. Lặp lại với ba mô hình còn lại. Chỉ ID mô hình được chọn thay đổi; thông tin xác thực nhà cung cấp giữ nguyên.
Cách kiểm thử kết nối bằng Python
Dùng bài kiểm thử smoke độc lập này để kiểm tra cùng bốn route trước khi đưa Dify vào. Cài OpenAI Python SDK, lưu COMETAPI_KEY trong biến môi trường, và chạy script từ một máy đáng tin cậy. Kết quả thành công xác minh khóa, endpoint, và các ID mô hình hiện tại; nó không thay thế việc kiểm thử trong chính workflow của Dify.
import osfrom openai import OpenAIMODELS = { "OpenAI": "gpt-5.6", "Claude": "claude-opus-5", "Gemini": "gemini-3.7-flash", "DeepSeek": "deepseek-v4-flash",}client = OpenAI( api_key=os.environ["COMETAPI_KEY"], base_url="https://api.cometapi.com/v1", timeout=30.0, max_retries=2,)for family, model in MODELS.items(): try: response = client.chat.completions.create( model=model, messages=[ {"role": "user", "content": "Reply with one short sentence."} ], ) text = response.choices[0].message.content or "" print(f"{family}: OK | {response.model} | {text[:80]}") except Exception as error: print(f"{family}: ERROR | {type(error).__name__} | {error}")
Giữ bài kiểm thử này ngoài workflow Dify của bạn. Nhiệm vụ của nó là xác minh khóa, endpoint, và ID mô hình. Khi một mô hình thành công tại đây, lỗi trong Dify nhiều khả năng đến từ cấu hình plugin, cài đặt khả năng mô hình, hoặc chính workflow.
Cách xác minh tính sẵn sàng của mô hình trước khi triển khai
Bạn có thể xác minh tính sẵn sàng của mô hình qua thư mục mô hình CometAPI hoặc Models API hiện tại trước khi triển khai. Xác nhận rằng chính xác ID mô hình xuất hiện trong tài khoản của bạn, rồi chạy một yêu cầu xác thực nhỏ trước khi thêm nó vào workflow Dify sản xuất.
Với khóa của bạn, một cuộc gọi không streaming thành công trả về một đối tượng Chat Completions. Ngôn từ được tạo sẽ thay đổi, nhưng phản hồi nên chứa các trường sau:
{ "id": "chatcmpl-...", "object": "chat.completion", "model": "the-routed-model-id", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "..." }, "finish_reason": "stop" } ], "usage": { "prompt_tokens": 0, "completion_tokens": 0, "total_tokens": 0 }}
Trong Dify, tín hiệu thành công tương đương là một nút LLM hoàn thành với văn bản trong bảng điều khiển đầu ra. Kiểm tra nhật ký chạy của Dify để biết mô hình đã chọn, thời gian trôi qua, mức sử dụng token, và bất kỳ lỗi nhà cung cấp đã chuẩn hóa nào.
Cách chọn mô hình phù hợp cho Dify
Bắt đầu với workload thay vì tên nhà cung cấp. Dùng mô hình tiên phong cho reasoning khó, công việc với codebase lớn, hoặc câu trả lời giá trị cao; chọn mô hình nhanh hơn cho trò chuyện tương tác và các bước workflow lặp lại; và dùng mô hình văn bản chi phí thấp cho phân loại, trích xuất, hoặc các tác vụ giới hạn khác. So sánh các mô hình với cùng bộ prompt và ghi lại chất lượng câu trả lời, độ trễ, mức dùng token, hành vi công cụ, và chi phí trên mỗi lần chạy thành công. Đồng thời xác nhận rằng route đã chọn hỗ trợ mọi đầu vào và tính năng bắt buộc. Kết nối CometAPI chung giúp việc chuyển đổi đơn giản hơn, nhưng nó không khiến giới hạn ngữ cảnh, đầu vào đa phương thức, công cụ, đầu ra có cấu trúc, hoặc kiểm soát reasoning trở nên giống hệt giữa các mô hình.
Các tình huống sự cố thường gặp & giải pháp
Dify từ chối thông tin xác thực với 401. Sao chép lại khóa từ bảng điều khiển CometAPI và loại bỏ mọi khoảng trắng đầu/cuối. Không thêm từ Bearer vào trường API Key của Dify; plugin sẽ xây dựng header ủy quyền.
Nhà cung cấp chung trả về 404 hoặc HTML. Dùng đầy đủ base URL https://api.cometapi.com/v1. Bỏ /v1 hoặc thêm /chat/completions vào base URL của Dify có thể tạo ra đường dẫn cuối cùng sai.
Mô hình không xuất hiện trong Dify. Cập nhật plugin CometAPI, rồi so sánh ID với danh mục trực tiếp. Nếu ID hiện tại chưa được định nghĩa sẵn, hãy thêm nó như một mô hình tùy chỉnh dưới cùng nhà cung cấp CometAPI. Không thay thế bằng một tên mô hình trông tương tự.
Yêu cầu văn bản hoạt động nhưng hình ảnh hoặc công cụ thất bại. Tương thích OpenAI mô tả bề mặt yêu cầu, không phải hành vi API giống hệt. Kiểm tra lại các chế độ được liệt kê của mô hình và cài đặt vision, gọi công cụ, đầu ra có cấu trúc, và reasoning của plugin.
Yêu cầu vượt quá cửa sổ ngữ cảnh. Xác nhận kích thước ngữ cảnh của mô hình tùy chỉnh trong Dify, rút ngắn tài liệu truy xuất và lịch sử hội thoại, và dành chỗ cho đầu ra. Ngữ cảnh lớn hơn trong danh mục không loại bỏ các giới hạn workflow của Dify hoặc quy tắc token cụ thể theo nhà cung cấp.
Bạn nhận 429 hoặc lỗi 5xx gián đoạn. Retry các lỗi 429, timeout, và lỗi máy chủ tạm thời với exponential backoff và jitter. Không tự động retry lỗi xác thực, mô hình không hợp lệ, hoặc yêu cầu sai định dạng.
Ghi chú vận hành
Giữ bí mật ở phía máy chủ. Dùng các khóa CometAPI riêng cho môi trường phát triển và sản xuất, đặt hạn ngạch hợp lý, xoay khóa bị lộ, và tránh xuất thông tin xác thực thật cùng với ứng dụng Dify.
Cố định một ID mô hình đã thử nghiệm. Không thay thế âm thầm một mô hình vì xuất hiện tên mới trong danh mục. Khả năng, độ trễ, phong cách đầu ra, và giá có thể thay đổi giữa các phiên bản ngay cả khi cùng nhà cung cấp.
Đo lường theo route. Ghi lại ID mô hình, độ trễ, mức dùng token, mã lỗi, và phiên bản ứng dụng Dify cho mọi cuộc gọi sản xuất. Điều này cho phép so sánh mô hình và điều tra biến động chi phí mà không dựa vào cảm nhận.
Thiết kế fallback theo năng lực. Dùng mô hình chi phí thấp cho lưu lượng thường nhật và mô hình mạnh hơn cho leo thang, nhưng chỉ ghép các mô hình hỗ trợ cùng đầu vào và công cụ bắt buộc. Retry lỗi tạm thời trước khi chuyển mô hình, giới hạn tổng ngân sách độ trễ, và kiểm thử mọi route fallback. Xem hướng dẫn fallback mô hình của CometAPI cho một mẫu vận hành.
Kiểm tra lại giá trước khi ra mắt. Các mức giá trong bài là ảnh chụp theo thời điểm, không phải hợp đồng. Xem lại hướng dẫn giá và danh mục mô hình trực tiếp trước khi đặt ngân sách hoặc công bố thông tin chi phí.
FAQs
Làm thế nào để thêm OpenAI vào Dify qua CometAPI?
Cài đặt plugin nhà cung cấp mô hình CometAPI, lưu khóa CometAPI của bạn, và thêm gpt-5.6 như một mô hình LLM có thể chọn. Chọn chế độ Chat khi Dify yêu cầu chế độ completion, rồi chạy một prompt văn bản ngắn trước khi bật mô hình trong workflow sản xuất. Danh mục CometAPI hiện tại liệt kê route cho các workload trò chuyện và Responses tương thích, nhưng hỗ trợ plugin của Dify có thể thay đổi theo phiên bản. Nếu ID chưa được định nghĩa sẵn, hãy cập nhật plugin hoặc dùng tùy chọn mô hình tùy chỉnh. Giữ nguyên thông tin xác thực nhà cung cấp dùng chung và xác thực riêng các cài đặt đầu vào hình ảnh, gọi công cụ, đầu ra có cấu trúc, và reasoning trước khi dựa vào chúng.
Làm thế nào để thêm Claude vào Dify qua CometAPI?
Dưới cùng một kết nối nhà cung cấp CometAPI, thêm claude-opus-5 như một mô hình LLM riêng và chọn nó trong nút Dify cần Claude. Danh mục CometAPI hiện tài liệu cả route Anthropic Messages gốc và route trò chuyện tương thích OpenAI cho mô hình này. Dify vẫn cần một mục mô hình riêng vì ID Claude, đầu vào được hỗ trợ, giới hạn token, và hành vi khác với route OpenAI. Kiểm thử một phản hồi đơn giản và một tác vụ dài hoặc có công cụ đại diện, rồi kiểm tra nhật ký chạy của Dify để biết mô hình thực tế, độ trễ, mức dùng token, và lỗi chuẩn hóa trước khi đặt làm mặc định.
Làm thế nào để thêm Gemini vào Dify qua CometAPI?
Thêm gemini-3.7-flash dưới nhà cung cấp CometAPI hiện có, rồi chọn mục đó trong nút LLM liên quan của Dify. CometAPI hiện liệt kê cả route native Gemini generating-content và route trò chuyện tương thích OpenAI. Với một workflow trò chuyện cơ bản trong Dify, hãy bắt đầu chỉ với văn bản và xác nhận chạy thành công trước khi kiểm thử hình ảnh, PDF, audio, hoặc video. Các chế độ đó có thể phụ thuộc vào phiên bản plugin và cấu hình nút ngay cả khi danh mục mô hình liệt kê chúng. Giữ Gemini như một cấu hình mô hình riêng để bạn có thể đặt giới hạn phù hợp và so sánh tốc độ, chất lượng, và chi phí với các route khác.
Làm thế nào để thêm DeepSeek vào Dify qua CometAPI?
Tạo một mục mô hình Dify riêng cho deepseek-v4-flash trong khi tái sử dụng cùng thông tin xác thực nhà cung cấp CometAPI. Danh mục CometAPI hiện liệt kê route này cho workload trò chuyện text-to-text, vì vậy đừng sao chép cài đặt hình ảnh từ cấu hình OpenAI, Claude, hoặc Gemini. Kiểm thử một prompt văn bản ngắn trước, sau đó là tác vụ coding hoặc reasoning bạn dự định chạy. Nếu mô hình thiếu trong Dify, cập nhật plugin hoặc thêm chính xác ID hiện tại qua tùy chọn mô hình tùy chỉnh. Kiểm tra lại trang mô hình trực tiếp để biết giá động và tính sẵn sàng trước khi định tuyến lưu lượng sản xuất.
Tôi có thể dùng OpenAI, Claude, Gemini, và DeepSeek trong cùng một workflow Dify không?
Có. Mỗi nút LLM có thể dùng một nhà cung cấp/mô hình cấu hình khác nhau. Với CometAPI, các mô hình được hỗ trợ có thể chia sẻ cùng thông tin xác thực nhà cung cấp trong khi workflow chọn các ID mô hình khác nhau.
Một khóa CometAPI thật sự bao phủ OpenAI, Claude, Gemini, và DeepSeek trong Dify chứ?
Có. Plugin mô hình CometAPI của Dify lưu một thông tin xác thực nhà cung cấp và dùng nó cho các mô hình được hỗ trợ trên những họ đó. Bạn vẫn chọn hoặc thêm từng ID mô hình để Dify biết mô hình nào cần gọi.
Tôi có cần nhập base URL của CometAPI trong Dify không?
Không khi bạn dùng plugin CometAPI chuyên dụng; nó thiết lập https://api.cometapi.com/v1 nội bộ. Chỉ nhập base URL đó thủ công khi bạn dùng nhà cung cấp mô hình tương thích OpenAI API chung của Dify.
Dify có hỗ trợ Claude qua một API tương thích OpenAI không?
Dify có thể hoạt động với các nhà cung cấp mô hình tương thích OpenAI, nhưng tương thích không làm cho hành vi API của Claude giống hệt OpenAI. Xác thực các tham số và khả năng được hỗ trợ của mô hình trước khi bật công cụ, đầu ra có cấu trúc, vision, hoặc các tính năng đặc thù cho reasoning.
Tôi có thể dùng cùng cài đặt Dify cho mọi mô hình không?
Không. Endpoint và khóa có thể chia sẻ, nhưng giới hạn ngữ cảnh, chế độ, hỗ trợ công cụ, kiểm soát reasoning, độ trễ, và giá vẫn là đặc thù theo mô hình. Hãy coi mỗi ánh xạ mô hình như một cấu hình đã kiểm thử.
Nên chọn mô hình nào làm mặc định?
Hãy chọn sau khi kiểm thử prompt của riêng bạn. Một mô hình chi phí thấp có thể xử lý phân loại hoặc viết lại thường nhật, trong khi mô hình mạnh hơn có thể xử lý reasoning phức tạp hoặc phản hồi giá trị cao. Tránh tuyên bố “tốt nhất” phổ quát nếu không có dữ liệu workload.
Kết luận
CometAPI cho phép một không gian làm việc Dify sử dụng OpenAI, Claude, Gemini, và DeepSeek qua một thông tin xác thực nhà cung cấp và một endpoint API hợp nhất cho các workload trò chuyện tương thích. Thiết lập ngắn gọn: cài plugin mô hình, lưu khóa, ánh xạ các ID mô hình hiện tại, và kiểm thử từng route. Công việc vận hành vẫn đặc thù theo mô hình—khả năng, ngữ cảnh, giá, và hành vi fallback cần được xác minh thay vì giả định.