ข้อกำหนดทาง技术ของ omni-moderation-2024-09-26
omni-moderation-2024-09-26 เป็นโมเดลการกลั่นกรองแบบสแนปชอตที่ให้บริการผ่าน OpenAI Moderation API และเอกสารอ้างอิง API ของ OpenAI ระบุชัดเจนว่า ID โมเดลนี้เป็นตัวเลือกโมเดลการกลั่นกรองที่รองรับโดยตรง โมเดลนี้เป็นส่วนหนึ่งของตระกูล omni-moderation รุ่นใหม่ แทนที่จะเป็นสายการกลั่นกรองแบบข้อความล้วนรุ่นเก่า
ตามเอกสารเกี่ยวกับโมเดลและการกลั่นกรองของ OpenAI โมเดลนี้ถูกออกแบบมาสำหรับการจำแนกความปลอดภัยของเนื้อหา รองรับอินพุตทั้งข้อความและรูปภาพ และส่งคืนผลการกลั่นกรอง ไม่ใช่เอาต์พุตการสร้างข้อความ OpenAI อธิบายว่าตระกูล omni-moderation เป็นข้อเสนอการกลั่นกรองที่ทรงพลังที่สุดของตน โดยรองรับมัลติโหมดและมีการแบ่งหมวดหมู่ที่กว้างกว่ารุ่นการกลั่นกรองแบบเดิม
ในฐานะสแนปชอตลงวันที่ 26 กันยายน 2024 omni-moderation-2024-09-26 สอดคล้องกับเจเนอเรชันเปิดตัวของระบบการกลั่นกรองแบบมัลติโหมดที่อัปเกรดของ OpenAI OpenAI ระบุว่าเจเนอเรชันนี้สร้างบน GPT-4o มีความแม่นยำดีกว่ารุ่นก่อน และแข็งแกร่งเป็นพิเศษกับเนื้อหาที่ไม่ใช่ภาษาอังกฤษ วัสดุการเปิดตัวเดียวกันยังระบุด้วยว่าโมเดลการกลั่นกรองให้ใช้งานผ่าน Moderation API โดยไม่มีค่าใช้จ่ายสำหรับนักพัฒนา
omni-moderation-2024-09-26 คืออะไร?
omni-moderation-2024-09-26 เป็นโมเดลการกลั่นกรองแบบกำหนดเวอร์ชันแน่นอน ใช้เพื่อระบุเนื้อหาที่อาจเป็นอันตรายในอินพุตของแอปพลิเคชัน ทั้งก่อนหรือหลังที่ผู้ใช้ปลายทางจะเห็นจริง ในการใช้งานจริง นักพัฒนามักใช้เพื่อจำแนกข้อความ รูปภาพ หรือเพย์โหลดมัลติโหมดผสมที่ผู้ใช้สร้างขึ้น ตามหมวดความเสี่ยงที่เกี่ยวข้องกับนโยบาย เช่น ความรุนแรง ความเกลียดชัง การคุกคาม เนื้อหาทางเพศ และการทำร้ายตนเอง
เมื่อเทียบกับโมเดลการกลั่นกรองข้อความรุ่นก่อน สแนปชอตนี้อยู่ในสแตกการกลั่นกรองแบบมัลติโหมดรุ่นใหม่ของ OpenAI เอกสารของ OpenAI ระบุว่าสแนปชอตในตระกูล omni-moderation รองรับตัวเลือกการแบ่งหมวดหมู่ที่มากขึ้นและอินพุตแบบมัลติโหมด จึงเป็นตัวเลือกที่แนะนำสำหรับการผสานการกลั่นกรองใหม่ๆ
เหตุผลสำคัญในการใช้สแนปชอต ID omni-moderation-2024-09-26 แทน alias ที่เปลี่ยนแปลงได้ คือเสถียรภาพของเวอร์ชัน เนื่องจากเป็นสแนปชอตลงวันที่ ไม่ใช่ alias แบบเลื่อนอย่าง omni-moderation-latest จึงเหมาะสำหรับทีมที่ต้องการพฤติกรรมการกลั่นกรองที่ทำซ้ำได้ การปล่อยใช้งานแบบควบคุม และการตรวจสอบที่คาดการณ์ได้มากขึ้นในหลายสภาพแวดล้อม ประเด็นเรื่องเสถียรภาพนี้เป็นข้ออนุมานเชิงการใช้งานที่อ้างอิงจากการที่ OpenAI แยกรายการระหว่างสแนปชอตและตัวระบุโมเดลแบบล่าสุด
คุณสมบัติหลักของ omni-moderation-2024-09-26
- การกลั่นกรองแบบมัลติโหมด: รองรับทั้งอินพุตข้อความและรูปภาพผ่าน Moderation API ทำให้โมเดลเดียวสามารถประเมินเนื้อหาข้ามประเภทสื่อที่ผู้ใช้สร้างขึ้นได้ทั่วไป
- การแบ่งหมวดความปลอดภัยที่กว้างขึ้น: OpenAI ระบุว่าตระกูล omni-moderation เพิ่มตัวเลือกการแบ่งหมวดหมู่มากกว่ารุ่นเดิม รวมถึงคลาสความเสี่ยงใหม่ๆ ที่เปิดตัวในเจเนอเรชันนี้
- สมรรถนะหลายภาษาที่ดียิ่งขึ้น: OpenAI ระบุว่าเจเนอเรชันการกลั่นกรองนี้แม่นยำกว่ารุ่นก่อน โดยเฉพาะในภาษาอื่นที่ไม่ใช่ภาษาอังกฤษและบริบทภาษาที่มีทรัพยากรต่ำ
- เอาต์พุตคะแนนเชิงความน่าจะเป็น: นอกเหนือจากสถานะการติดธงและบูลีนรายหมวดหมู่ โมเดลยังให้คะแนนหมวดหมู่ที่ปรับเทียบแล้ว เพื่อช่วยให้ทีมกำหนดเกณฑ์และตรรกะการทบทวนตามบริบทของแอปพลิเคชัน
- ตระหนักรู้ประเภทอินพุตรายหมวดหมู่: สคีมาคำตอบการกลั่นกรองมีข้อมูลประเภทอินพุตที่ถูกใช้ในระดับหมวดหมู่ ช่วยให้นักพัฒนาทราบว่าการจัดจำแนกมาจากข้อความ รูปภาพ หรือทั้งสองอย่าง
- การควบคุมเวอร์ชันแบบสแนปชอต: เนื่องจาก
omni-moderation-2024-09-26เป็นสแนปชอตที่ระบุเวอร์ชันอย่างชัดเจน จึงเหมาะกับการทดสอบถดถอย การวัดมาตรฐานด้านความปลอดภัย และการปล่อยใช้งานจริงแบบควบคุมที่ต้องการความสม่ำเสมอ ข้อนี้เป็นข้ออนุมานเชิงการใช้งานจากการตั้งชื่อโมเดลสแนปชอตและการรองรับใน API ของ OpenAI
วิธีเข้าถึงและผสานใช้งาน omni-moderation-2024-09-26
ขั้นตอนที่ 1: สมัครเพื่อรับคีย์ API
เริ่มต้นโดยสมัครใช้งานบน CometAPI และสร้างคีย์ API ของคุณจากแดชบอร์ด เมื่อคุณมีคีย์ที่พร้อมใช้งานแล้ว คุณสามารถใช้เพื่อยืนยันตัวตนของทุกคำขอไปยัง API ของ omni-moderation-2024-09-26 ผ่านเกตเวย์โมเดลแบบรวมของ CometAPI
ขั้นตอนที่ 2: ส่งคำขอไปยัง API ของ omni-moderation-2024-09-26
ใช้รูปแบบ API ที่เข้ากันได้กับ OpenAI ของ CometAPI และระบุโมเดลเป็น omni-moderation-2024-09-26 ส่งเพย์โหลดการกลั่นกรองของคุณเป็นข้อความ หรือเป็นอาร์เรย์อินพุตแบบมัลติโหมดเมื่อจัดจำแนกเนื้อหาที่เป็นภาพพร้อมข้อความ เอกสาร Moderation API อย่างเป็นทางการของ OpenAI แสดงว่า ID โมเดลนี้ใช้ได้สำหรับคำขอการกลั่นกรอง และปลายทางรองรับทั้งสตริงข้อความธรรมดาและอ็อบเจ็กต์อินพุตมัลติโหมดแบบมีโครงสร้าง
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
ขั้นตอนที่ 3: ดึงและตรวจสอบผลลัพธ์
หลังจากส่งคำขอแล้ว ให้ตรวจสอบคำตอบเพื่อดูผลการกลั่นกรองระดับบนสุด สถานะการติดธง บูลีนรายหมวดหมู่ และคะแนนของแต่ละหมวด เอกสารสคีมาคำตอบการกลั่นกรองของ OpenAI ยังมีรายละเอียดรายหมวดหมู่ที่สามารถใช้กำหนดเกณฑ์ การจัดคิวตรวจทาน และตรรกะการบังคับใช้นโยบาย ในการใช้งานจริง ให้ยืนยันผลลัพธ์ด้วยการทดสอบกรณีขอบที่เป็นตัวแทนจากแอปของคุณ เปรียบเทียบผลลัพธ์กับความคาดหวังตามนโยบายภายใน และบันทึกสแนปชอต ID ของโมเดล omni-moderation-2024-09-26 เพื่อให้พฤติกรรมการกลั่นกรองสามารถตรวจสอบย้อนกลับได้ตลอดเวลา