Auto API ใน CometAPI คืออะไร?
CometAPI Auto API คือจุดปลายทางการกำหนดเส้นทางโมเดลแบบอัจฉริยะที่ช่วยให้นักพัฒนาสามารถเข้าถึงโมเดล AI ที่เหมาะสมโดยไม่ต้องระบุชื่อโมเดลตายตัวสำหรับทุกคำขอ แทนที่จะเลือกโมเดลเฉพาะ เช่น GPT, Claude, Gemini หรือโมเดลที่รองรับอื่นๆ นักพัฒนาสามารถส่ง model=auto แล้ว CometAPI จะกำหนดโมเดลที่เหมาะสมโดยอัตโนมัติตามลักษณะและข้อกำหนดของคำขอนั้น
สำหรับงานที่ให้ความสำคัญกับคุณภาพคำตอบที่สูงกว่า นักพัฒนาสามารถใช้ auto-high ทั้ง auto และ auto-high เป็นตัวเลือกการกำหนดเส้นทาง ไม่ใช่โมเดล AI แบบคงที่
แนวทางนี้ทำให้แอปพลิเคชันสามารถใช้ API ที่สอดคล้องกัน ในขณะที่ CometAPI จัดการการเลือกโมเดลเบื้องหลังให้
พารามิเตอร์และสเปกของ Auto API
Auto API ใช้โครงสร้างคำขอ API แบบเดียวกับที่จุดปลายทางของ CometAPI รองรับ ความแตกต่างหลักคือค่าของพารามิเตอร์ model
| พารามิเตอร์ | ชนิด | คำอธิบาย |
|---|---|---|
| model | สตริง | ตั้งค่าเป็น auto หรือ auto-high |
| messages | อาร์เรย์ | ข้อความสนทนา |
| stream | บูลีน | เปิดใช้งานการสตรีมเมื่อรองรับ |
| tools | อาร์เรย์ | นิยามเครื่องมือ |
| response_format | ออบเจ็กต์ | การกำหนดค่าผลลัพธ์แบบมีโครงสร้าง |
| Image input | ออบเจ็กต์/อาร์เรย์ | เนื้อหาภาพเมื่อรองรับ |
| File input | ออบเจ็กต์/อาร์เรย์ | เนื้อหาไฟล์เมื่อรองรับ |
| Reasoning parameters | ออบเจ็กต์/สตริง | การตั้งค่าที่เกี่ยวกับการให้เหตุผลซึ่งโมเดลที่เลือกสนับสนุน |
Auto API ทำงานอย่างไร?
เมื่อคำขอใช้ model=auto หรือ model=auto-high CometAPI จะตรวจสอบลักษณะของคำขอก่อน ลักษณะเหล่านี้อาจรวมถึงประเภทไคลเอนต์ คำขอมีภาพหรือไฟล์หรือไม่ ความยาวอินพุตโดยประมาณ การใช้เครื่องมือ ข้อกำหนดผลลัพธ์แบบมีโครงสร้าง การสตรีม และพารามิเตอร์ที่เกี่ยวข้องกับการให้เหตุผล
จากลักษณะดังกล่าว คำขอจะถูกจับคู่กับสถานการณ์การกำหนดเส้นทางที่เหมาะสม จากนั้น CometAPI จะเลือกโมเดลที่เข้าเกณฑ์จากพูลโมเดลที่สอดคล้องตามระดับคุณภาพที่กำหนด ความพร้อมใช้งานของโมเดล ลำดับความสำคัญ น้ำหนัก สิทธิ์ของกลุ่มผู้ใช้ ความสามารถ ราคา และความพร้อมของช่องทาง
หลังจากเลือกโมเดลแล้ว คำขอจะดำเนินต่อผ่านระบบการกำหนดเส้นทางช่องทางตามปกติของ CometAPI การกำหนดเส้นทางอัตโนมัติจึงตัดสินว่าใครคือโมเดลที่จะจัดการคำขอ ในขณะที่การกำหนดเส้นทางช่องทางจะตัดสินว่าใครคือช่องทางผู้ให้บริการที่พร้อมใช้งานที่จะประมวลผลคำขอของโมเดลนั้น
การกำหนดเส้นทางอัตโนมัติจะไม่สร้างช่องทางโดยอัตโนมัติหรือข้ามการกำหนดค่าช่องทางที่มีอยู่ โมเดลต้องมีการกำหนดราคาที่จำเป็นและการกำหนดเส้นทางช่องทางก่อนจึงจะสามารถประมวลผลคำขอได้สำเร็จ
ดังนั้น โมเดลที่ส่งกลับในผลลัพธ์ API อาจแตกต่างจากโมเดลที่ระบุในคำขอ ตัวอย่างเช่น คำขอที่ใช้ model=auto อาจส่งกลับชื่อโมเดลจริงในฟิลด์ model นี่เป็นพฤติกรรมปกติและแสดงให้เห็นว่าโมเดลใดถูกเลือกโดยตัวกำหนดเส้นทางในท้ายที่สุด
Auto กับ Auto-High: แตกต่างกันอย่างไร?
auto และ auto-high ใช้แนวคิดการกำหนดเส้นทางอัจฉริยะเดียวกัน แต่มุ่งเป้าไปที่ระดับคุณภาพต่างกัน
Auto เป็นตัวเลือกการกำหนดเส้นทางแบบใช้งานทั่วไป มุ่งเน้นความสมดุลเชิงปฏิบัติระหว่างคุณภาพคำตอบ ต้นทุน ความเร็ว และความพร้อมใช้งาน เหมาะเป็นค่าเริ่มต้นสำหรับแอปส่วนใหญ่ในชีวิตประจำวัน
Auto-High ออกแบบมาสำหรับผู้ใช้ที่ต้องการโมเดลที่แข็งแกร่งกว่าและคุณภาพคำตอบที่สูงกว่า เหมาะกับการให้เหตุผลที่ซับซ้อน การเขียนโค้ดขั้นสูง การวิเคราะห์เชิงลึก และงานที่อ่อนไหวต่อคุณภาพอื่นๆ
auto-high ไม่ได้หมายความว่าทุกคำขอจะถูกส่งไปยังโมเดลระดับพรีเมียมตัวเดียว เหมือนกับ auto มันเลือกโมเดลแบบไดนามิกจากพูลโมเดลคุณภาพสูงที่กำหนดไว้ตามลักษณะของคำขอ
| คุณสมบัติ | auto | auto-high |
|---|---|---|
| วัตถุประสงค์ | การกำหนดเส้นทางอัตโนมัติทั่วไป | การกำหนดเส้นทางอัตโนมัติที่เน้นคุณภาพสูงกว่า |
| การเลือกโมเดล | อัตโนมัติ | อัตโนมัติ |
| โมเดลแบบคงที่ | ไม่ | ไม่ |
| โฟกัสหลัก | สมดุลค่าใช้จ่าย ความเร็ว ความพร้อมใช้งาน และความสามารถ | การคัดเลือกโมเดลที่มีคุณภาพสูงกว่า |
| เหมาะสำหรับ | งานโปรดักชันทั่วไป | งานซับซ้อนหรือต้องการคุณภาพสูง |
| โมเดลอาจเปลี่ยนแปลงได้ | ใช่ | ใช่ |
กล่าวโดยสรุป ใช้ auto เมื่อคุณต้องการค่าพื้นฐานที่สมดุล และใช้ auto-high เมื่อคุณให้น้ำหนักกับคุณภาพคำตอบมากกว่า
กรณีการใช้งาน
แอปพลิเคชัน AI ทั่วไป
Auto เป็นตัวเลือกที่สะดวกสำหรับแชตบอท การสร้างคอนเทนต์ การสรุป การจัดประเภท ฝ่ายสนับสนุนลูกค้า และแอปพลิเคชัน AI ใช้งานทั่วไปอื่นๆ นักพัฒนาไม่จำเป็นต้องดูแลกลยุทธ์การเลือกโมเดลแบบตายตัวสำหรับทุกคำขอ
การเขียนโค้ดและการพัฒนา
แอปด้านการเขียนโค้ดจะได้ประโยชน์จากการกำหนดเส้นทาง Auto เพราะคำขอที่เกี่ยวกับโค้ดสามารถถูกส่งไปยังโมเดลที่ตั้งค่ามาสำหรับงานวิศวกรรมซอฟต์แวร์ได้ เหมาะสำหรับผู้ช่วยเขียนโค้ด การผสานใน IDE การสร้างโค้ด การดีบัก การรีวิวโค้ด และเอเจนต์สำหรับการพัฒนา
การวิเคราะห์และการให้เหตุผลที่ซับซ้อน
auto-high เหมาะกับงานที่คุณภาพคำตอบสำคัญกว่าการลดต้นทุนโมเดล ตัวอย่างเช่น การวิเคราะห์ทางเทคนิค การให้เหตุผลที่ซับซ้อน งานวิจัย การวิเคราะห์เอกสารอย่างละเอียด และเวิร์กโฟลว์เอเจนต์ที่ซับซ้อน
แอปพลิเคชันแบบมัลติโมดัล
เมื่อกฎการกำหนดเส้นทางและโมเดลผู้สมัครที่กำหนดไว้รองรับ Auto สามารถกำหนดเส้นทางคำขอที่มีภาพหรือไฟล์ไปยังโมเดลที่สามารถประมวลผลอินพุตเหล่านั้นได้
แอปที่มีปริมาณคำขอสูง
Auto ยังมีประโยชน์สำหรับแอปที่ต้องประมวลผลคำขอหลากหลายประเภทจำนวนมาก แทนที่จะต้องพัฒนาและดูแลตรรกะการเลือกโมเดลในโค้ดของแอป นักพัฒนาสามารถปล่อยให้ CometAPI จัดการการเลือกโมเดลแบบรวมศูนย์ได้
ข้อจำกัดของ Auto API คืออะไร?
Auto ไม่ได้การันตีว่าทุกคำขอจะถูกจัดการโดยโมเดลเดียวกัน เนื่องจากการเลือกโมเดลเป็นแบบไดนามิก โมเดลที่อยู่เบื้องหลังอาจเปลี่ยนไปตามเงื่อนไขและการกำหนดค่าการกำหนดเส้นทาง
Auto ก็ไม่ได้การันตีราคาที่ถูกที่สุด มันถูกออกแบบมาเพื่อการเลือกโมเดลอย่างชาญฉลาด ไม่ใช่เพื่อเลือกโมเดลที่ถูกที่สุดเสมอไป
ข้อจำกัดอีกประการคือความสามารถเฉพาะของโมเดลอาจแตกต่างกัน โมเดลต่างๆ อาจรองรับความยาวบริบท เครื่องมือ อินพุตภาพ ผลลัพธ์แบบมีโครงสร้าง หรือฟีเจอร์อื่นๆ ที่ต่างกัน ดังนั้น Auto จะทำงานได้ดีที่สุดเมื่อโมเดลผู้สมัครที่กำหนดไว้มีข้อมูลความสามารถที่ถูกต้อง
สุดท้าย การเลือกโมเดลไม่ได้รับประกันว่าคำขอจะสำเร็จ โมเดลที่เลือกยังคงต้องมีเส้นทางช่องทางที่พร้อมใช้งานสำหรับกลุ่มผู้ใช้ที่เกี่ยวข้อง หากไม่มีช่องทางที่เหมาะสม คำขออาจล้มเหลว แม้ว่า Auto จะระบุโมเดลได้อย่างถูกต้องแล้วก็ตาม
Auto จัดการคำขอประเภทต่างๆ อย่างไร?
ประโยชน์สำคัญของ Auto คือ นักพัฒนาไม่จำเป็นต้องดูแลตรรกะการเลือกโมเดลแยกต่างหากสำหรับคำขอทั่วไปแต่ละประเภท
คำขอข้อความปกติสามารถจัดการได้โดยพูลโมเดลเริ่มต้น คำขอที่เกี่ยวกับโค้ดสามารถถูกส่งไปยังพูลโมเดลที่เน้นด้านการเขียนโค้ด คำขอที่ต้องใช้บริบทขนาดใหญ่สามารถจับคู่กับโมเดลที่รองรับขนาดอินพุตที่ต้องการ คำขอภาพสามารถกำหนดเส้นทางไปยังโมเดลที่มีความสามารถด้านการมองเห็น
สิ่งนี้ทำให้จุดเข้า API เดียวกันรองรับสถานการณ์การใช้งานที่ต่างกัน ในขณะที่ทำให้การผสานฝั่งไคลเอนต์เรียบง่าย
ประโยชน์ของการใช้ CometAPI Auto API คืออะไร?
ประโยชน์หลักของ Auto คือการแยกตรรกะของแอปพลิเคชันออกจากตรรกะการเลือกโมเดล
หากไม่มีการกำหนดเส้นทางอัตโนมัติ นักพัฒนามักต้องตัดสินใจว่าโมเดลใดควรจัดการแต่ละคำขอ และจากนั้นต้องดูแลกลยุทธ์สำรองเมื่อโมเดลไม่พร้อมใช้งาน มีราคาแพง หรือไม่เหมาะกับงานบางประเภท
ด้วย Auto แอปพลิเคชันสามารถใช้ตัวระบุการกำหนดเส้นทางที่เสถียร ในขณะที่กลยุทธ์โมเดลเบื้องหลังถูกจัดการแบบรวมศูนย์
แนวทางนี้ช่วยทำให้แอปที่ใช้หลายโมเดลง่ายขึ้น ทำให้การเปลี่ยนโมเดลง่ายต่อการเผยแพร่ และลดตรรกะการกำหนดเส้นทางเฉพาะโมเดลที่ต้องดูแลในตัวแอป
สำหรับทีมที่ทำงานกับผู้ให้บริการ AI หลายรายและความสามารถของโมเดลที่เปลี่ยนแปลงอย่างรวดเร็ว การแยกชั้นเช่นนี้มีคุณค่าเป็นพิเศษ
Auto API เทียบกับโมเดลเฉพาะ
| คุณสมบัติ | Auto | โมเดลเฉพาะ |
|---|---|---|
| การเลือกโมเดลอัตโนมัติ | ใช่ | ไม่ |
| อัตลักษณ์โมเดลแบบคงที่ | ไม่ | ใช่ |
| ความเรียบง่ายของแอปพลิเคชัน | สูง | ปานกลาง |
| การควบคุมโมเดล | ต่ำกว่า | สูง |
| ความยืดหยุ่น | สูง | ต่ำกว่า |
| ความคาดการณ์ได้ | ต่ำกว่า | สูง |
| เหมาะกับงานหลากหลายประเภท | ใช่ | ขึ้นอยู่กับโมเดล |
| เหมาะสำหรับการทดสอบที่ทำซ้ำได้ | จำกัด | ใช่ |
| เหมาะสำหรับ | งานโปรดักชันแบบไดนามิก | แอปพลิเคชันที่ผูกกับโมเดลเฉพาะ |
วิธีใช้ CometAPI Auto API
CometAPI Auto API ออกแบบมาให้ทำงานร่วมกับ Chat Completions API ที่เข้ากันได้กับ OpenAI คุณไม่จำเป็นต้องเลือกโมเดลเบื้องหลังที่เฉพาะเจาะจง เพียงตั้งค่าพารามิเตอร์ model เป็น auto หรือ auto-high แล้ว CometAPI จะเลือกโมเดลที่เหมาะสมโดยอัตโนมัติตามคำขอ
ขั้นตอนที่ 1: ขอสิทธิ์เข้าถึง API
เข้าสู่ระบบ cometAPI หากคุณยังไม่เป็นผู้ใช้ของเรา โปรดลงทะเบียนก่อน ลงชื่อเข้าใช้ CometAPI console รับคีย์ API สำหรับการเข้าถึงอินเทอร์เฟซ คลิก “Add Token” ที่ API token ในศูนย์ส่วนบุคคล รับโทเค็นคีย์: sk-xxxxx แล้วส่ง
ขั้นตอนที่ 2: ส่งคำขอไปยัง Auto API
เลือกจุดปลายทาง “auto" หรือ "auto-high” เพื่อส่งคำขอ API และตั้งค่า request body วิธีการร้องขอและ request body สามารถดูได้จากเอกสาร API บนเว็บไซต์ของเรา เว็บไซต์ของเรายังมีการทดสอบผ่าน Apifox เพื่อความสะดวกของคุณ แทนที่ <YOUR_API_KEY> ด้วยคีย์ CometAPI จริงจากบัญชีของคุณ
ความแตกต่างมีดังนี้:
auto— ตัวเลือกที่สมดุลสำหรับงานทั่วไปauto-high— ให้ความสำคัญกับการเลือกโมเดลที่มีคุณภาพสูงกว่า
ทั้งสองอย่างไม่แทนโมเดลเบื้องหลังแบบคงที่
ขั้นตอนที่ 3: CometAPI Auto เลือกโมเดลอย่างไร?
เมื่อคุณส่งคำขอด้วย model=auto หรือ model=auto-high CometAPI จะระบุลักษณะของคำขอก่อนแล้วจึงกำหนดว่าสถานการณ์การกำหนดเส้นทางใดเหมาะสมที่สุด ระบบสามารถพิจารณาปัจจัยต่างๆ เช่น ประเภทไคลเอนต์ คำขอมีภาพหรือไฟล์หรือไม่ ความยาวบริบทอินพุตโดยประมาณ การใช้เครื่องมือ ข้อกำหนดผลลัพธ์แบบมีโครงสร้าง การสตรีม และความสามารถที่รองรับอื่นๆ
หลังจากระบุเลนการกำหนดเส้นทางที่เหมาะสมแล้ว CometAPI จะเลือกโมเดลผู้สมัครจากพูลโมเดล auto หรือ auto-high ที่สอดคล้องกัน โมเดลที่ถูกปิดใช้งาน ไม่พร้อมให้กับกลุ่มผู้ใช้ ไม่สอดคล้องกับคำขอ หรือไม่รองรับบริบทหรือความสามารถที่ต้องการ จะถูกตัดออก ผู้สมัครที่เหลือจะถูกประเมินตามลำดับความสำคัญ น้ำหนัก และความพร้อมใช้งานที่กำหนด
โมเดลที่ถูกเลือกจะถูกส่งต่อไปยังระบบการกำหนดเส้นทางช่องทางที่มีอยู่ของ CometAPI ซึ่งจะค้นหาช่องทางที่พร้อมใช้งานสำหรับโมเดลนั้นและกลุ่มผู้ใช้ ผลลัพธ์คือ โมเดลสุดท้ายอาจไม่ตายตัวล่วงหน้าและสามารถเปลี่ยนแปลงได้ตามคำขอและการกำหนดค่าการกำหนดเส้นทางปัจจุบัน