Phi-4-Mini API 代表 Microsoft微軟Phi-4 系列中小語言模型的最新創新,主要著重於 文字任務。 Phi-3.8-Mini 擁有包含 4 億個參數的緊湊框架,由於其密集的僅解碼器 Transformer 架構,其速度和效率都非常出色。

Phi-4-Mini 的主要特點
Phi-4-Mini 模型 因其能夠執行各種任務而引人注目,例如 文本推理, 數學計算, 編程以及函數呼叫。儘管規模相對較小,Phi-4-Mini 仍可在以下領域與大型語言模型相媲美,甚至經常超越它們:
- 文本推理:它在需要邏輯處理的任務中表現出色,提供與具有更大參數的模型類似的性能。
- 全面支持長文本:Phi-128-Mini 能夠處理多達 4K 個標記的序列,是高效處理大量文字的理想選擇。
- 可擴充功能集成:Phi-4-Mini的函數呼叫能力可以與外部工具、API和資料來源無縫集成,增強其在應用場景中的多功能性。
Phi-4-Mini 背後的技術原理
Phi-4-Mini 的架構以先進的技術設計為基礎,旨在最大限度地提高效率和適應性:
- 變壓器架構:此模型建立在僅解碼器的 Transformer 框架上,利用自註意力機制有效管理文字序列中的長期依賴關係。
- 分組查詢注意力:此機制透過分組批次處理查詢來提高計算效率,增強模型的平行處理能力。
- 共享嵌入策略:透過共享輸入和輸出嵌入,Phi-4-Mini 減少了參數負載,增強了任務適應性和運作效率。
這些架構選擇使 Phi-4-Mini 能夠勝任 自然語言生成 同時在不同用例中保持高效能。
數據和訓練細節
語言訓練數據
Phi-4-Mini 的訓練數據包括高品質的富有推理力的文字數據,尤其是精心策劃的程式碼資料集,以增強程式設計任務的效能。透過過濾器和數據混合策略來改善預訓練數據,以確保數據的高品質和多樣性。具體來說,預訓練資料包括 5 兆個 token 的語料庫,比 Phi-3.5-Mini 更大、品質更高。
視覺語言訓練數據
Phi-4-Multimodal 的預訓練階段涉及豐富的圖文資料集,包括交錯的圖像文字文件、圖像文字對、圖像定位資料等。 預訓練過程涉及 0.5 兆個標記,結合了視覺和文字元素。監督微調(SFT)階段使用公共多模態指令調整資料集和大規模內部多模態指令調整資料集,涵蓋自然影像理解、圖表、表格和圖表推理、PowerPoint 分析、OCR、多影像比較、視訊摘要和模型安全等任務。
視覺語音訓練數據
Phi-4-Multimodal 在視覺語音資料上進行訓練,涵蓋單幀和多幀場景。透過內部文字轉語音 (TTS) 引擎將用戶查詢從文字轉換為音頻,確保了資料的高品質。具體來說,研究人員使用內部 ASR 模型對音訊進行轉錄,並計算原文與轉錄之間的單字錯誤率 (WER),並透過 WER 過濾來保證最終視覺語音資料的品質。
語音和音訊訓練數據
語音/音訊特徵的訓練數據包括自動語音辨識(ASR)轉錄資料和訓練後數據,涵蓋自動語音翻譯(AST)、語音問答(SQA)、語音摘要(SSUM)和音訊理解(AU)等多種任務。預訓練資料包括約 2 萬小時的匿名內部語音-文字對,涵蓋 8 種支援的語言。訓練後數據包括約 100 億個精心挑選的語音和音訊 SFT 樣本,涵蓋 ASR、AST、SQA、SQQA、SSUM 和 AU 等任務。
最佳部署和相容性
Phi-4-Mini 針對以下情況進行了最佳化 跨平台兼容性,方便在各種運算環境中部署:
- ONNX運行時優化:確保模型在低成本、低延遲設定下高效運行,支援廣泛的跨平台應用。
- 資源受限的環境:其輕量級特性使 Phi-4-Mini 適用於資源有限的邊緣運算部署,在不影響功能的情況下最大限度地提高營運效率。
訓練理念和資料使用
Phi-4-Mini 的訓練過程非常嚴格,專注於高品質、多樣化的資料集,以增強其 推理 邏輯處理 功能:
- 篩選訓練數據:結合合成和目標資料集來改進其數學和程式設計任務效能。
- 適應性和精確性:訓練策略強調資料品質和多樣性,為跨不同應用程式的複雜推理任務做好模型準備。
現實世界的用例
Phi-4-Mini 可在眾多場景中廣泛應用,展現其適應性與實用性:
- 智慧應答系統:在複雜的問答任務中表現出色,提供適合客戶服務應用的準確、快速的答案。
- 編程協助:為開發人員提供強大的程式碼產生和測試工具,提高生產力和工作流程效率。
- 多語言能力:支援多種語言的翻譯和處理,非常適合全球語言服務和跨文化應用。
- 邊緣運算與部署:Phi-4-Mini 針對便攜式設備部署進行了最佳化,在高效處理至關重要的邊緣運算場景中蓬勃發展。
總結:
Phi-4-Mini以其創新的設計和在文字處理任務中的卓越表現,代表了小型語言模型技術的重大進步。該模型為開發者和人工智慧用戶提供了一種高效的工具,無需大量運算資源即可管理廣泛且多樣化的應用程式。隨著微軟 Phi-4 系列的不斷發展,Phi-4-Mini 的適應性和整合能力確保了其在不斷發展的人工智慧領域中的持續相關性和實用性,最終成為未來人工智慧發展的關鍵資源。
如何從 CometAPI 呼叫此 Phi-4-Mini API
1.登入 前往 cometapi.com。如果您還不是我們的用戶,請先註冊
2.取得存取憑證 API 金鑰 介面.在個人中心的API token處點選“新增Token”,取得Token金鑰:sk-xxxxx並提交。
3.獲取本站的url: https://api.cometapi.com/
4.選擇Phi-4-Mini端點發送API請求並設定請求體。請求方法和請求主體來自 我們的網站 API 文檔。我們的網站也提供 Apifox 測試,以方便您的使用。
5.處理 API 回應以取得產生的答案。發送 API 請求後,您將收到一個包含產生的完成的 JSON 物件。
