在 2025–2026 年,AI 工具版圖持續整合:閘道 API(例如 CometAPI)擴展以提供類 OpenAI 的介面存取數百款模型,而終端使用者的 LLM 應用(例如 AnythingLLM)則持續改進其「Generic OpenAI」提供者,讓桌面與本地優先的應用能呼叫任何相容 OpenAI 的端點。這使得如今可輕鬆將 AnythingLLM 的流量透過 CometAPI 路由,享有模型選擇、成本路由與統一計費等優勢,同時仍使用 AnythingLLM 的本地 UI 與 RAG/代理功能。
什麼是 AnythingLLM,為什麼要將它連接到 CometAPI?
什麼是 AnythingLLM?
AnythingLLM 是一個開源、全功能的 AI 應用與本地/雲端用戶端,用於建立聊天助理、檢索增強生成(RAG)工作流程,以及由 LLM 驅動的代理。它提供流暢的 UI、開發者 API、工作區/代理功能,並支援本地與雲端 LLM——預設以隱私為核心,並可透過外掛擴充。AnythingLLM 暴露了一個 Generic OpenAI 提供者,使其能與相容 OpenAI 的 LLM API 溝通。
什麼是 CometAPI?
CometAPI 是一個商用的 API 聚合平台,透過單一類 OpenAI 的 REST 介面與統一計費,提供對 的存取。實務上,它讓你能透過相同的 端點與單一 API 金鑰(格式為 ),呼叫多家供應商的模型(OpenAI、Anthropic、Google/Gemini 變體、影像/音訊模型等)。CometAPI 支援標準的 OpenAI 風格端點,例如 、 等,讓已支援 OpenAI 相容 API 的工具得以輕鬆適配。


