omni-moderation-latest

สเปกทางเทคนิคของ omni-moderation-latest

omni-moderation-latest คืออะไร?

omni-moderation-latest คือโมเดลการกลั่นกรองปัจจุบันของ OpenAI สำหรับระบุเนื้อหาที่ไม่ปลอดภัยหรืออ่อนไหวต่อข้อกำหนดในข้อความและรูปภาพ ออกแบบมาสำหรับนักพัฒนาที่ต้องการคัดกรองพรอมต์ของผู้ใช้ สื่อที่อัปโหลด หรือเอาต์พุตของโมเดล ก่อนจะแสดงต่อผู้ใช้ปลายทางหรือส่งต่อไปยังระบบถัดไป

OpenAI เปิดตัว omni-moderation-latest ในฐานะการอัปเกรดแบบมัลติโหมดจากโมเดลการกลั่นกรองรุ่นก่อน ตามเอกสารของ OpenAI โมเดลนี้มีความสามารถมากกว่าตัวเลือกการกลั่นกรองแบบข้อความล้วนรุ่นเดิม รองรับการจัดประเภทที่กว้างขึ้น และเป็นตัวเลือกที่ดีที่สุดสำหรับแอปพลิเคชันใหม่ที่ใช้เอ็นด์พอยต์การกลั่นกรอง

ในการใช้งานจริง ทีมต่างๆ ใช้ omni-moderation-latest สำหรับการกลั่นกรองอินพุต การกลั่นกรองเอาต์พุต ท่อทาง Trust & Safety การกรองกระทู้ฟอรัม การรีวิวคอนเทนต์โซเชียล และเวิร์กโฟลว์การตรวจจับการละเมิดที่ต้องการการคัดแยกอัตโนมัติอย่างรวดเร็วก่อนการทบทวนโดยมนุษย์หรือการบังคับใช้กฎ นี่เป็นข้ออนุมานในระดับแอปพลิเคชันตามแนวทางการกลั่นกรองและการออกแบบ API ของ OpenAI

คุณสมบัติหลักของ omni-moderation-latest

• การกลั่นกรองแบบมัลติโหมด: โมเดลรองรับทั้งอินพุตข้อความและรูปภาพ เหมาะสำหรับแอปพลิเคชันสมัยใหม่ที่ต้องประเมินข้อความผู้ใช้ควบคู่ไปกับสื่อภาพที่อัปโหลด
• การจัดประเภทด้านความปลอดภัยที่กว้างขึ้น: OpenAI ระบุว่าตระกูล omni moderation รองรับตัวเลือกการจัดประเภทมากกว่ารุ่นการกลั่นกรองแบบข้อความล้วน
• เอาต์พุตด้านความปลอดภัยแบบมีโครงสร้าง: การตอบกลับมีออบเจกต์การกลั่นกรองที่ประกอบด้วยฟิลด์อย่างเช่น flagged ป้ายกำกับหมวดหมู่ และคะแนนหมวดหมู่ ทำให้ง่ายต่อการทำงานอัตโนมัติสำหรับตรรกะอนุญาต บล็อก ทบทวน หรือยกระดับ
• ความแม่นยำที่ดีขึ้น: OpenAI รายงานว่า omni-moderation-latest มีความแม่นยำสูงกว่ารุ่นก่อน โดยเฉพาะกับเนื้อหาที่ไม่ใช่ภาษาอังกฤษ
• การรองรับการจัดประเภทโดยคำนึงถึงภาพ: API สามารถรับ URL รูปภาพหรือข้อมูลรูปภาพแบบ base64 เป็นอินพุตการกลั่นกรอง ทำให้สามารถคัดกรองแอสเซ็ตรูปภาพที่อัปโหลดหรือเชื่อมโยงได้
• เหมาะที่สุดสำหรับการผสานรวมใหม่: คู่มือการกลั่นกรองของ OpenAI แนะนำให้ใช้โมเดล omni moderation รุ่นใหม่สำหรับการผสานการทำงานใหม่ แทนรุ่นแบบข้อความล้วน
• การใช้งานการกลั่นกรองฟรีจากฝั่งผู้ให้บริการ: รายการโมเดลของ OpenAI ระบุว่าโมเดลการกลั่นกรองใช้งานได้ฟรี ซึ่งดึงดูดสำหรับเวิร์กโฟลว์การกรองด้านความปลอดภัยในขนาดใหญ่

วิธีเข้าถึงและผสานการทำงานกับ omni-moderation-latest

ขั้นตอนที่ 1: ลงทะเบียนเพื่อขอรับ API Key

เริ่มต้นใช้งาน omni-moderation-latest โดยสมัครที่ CometAPI และสร้าง API key จากแดชบอร์ด หลังจากสร้างคีย์แล้ว ให้เก็บไว้ให้ปลอดภัยในตัวแปรสภาพแวดล้อม เช่น COMETAPI_API_KEY คีย์นี้จะถูกใช้สำหรับยืนยันตัวตนในทุกคำขอที่คุณส่งไปยังโมเดล

ขั้นตอนที่ 2: ส่งคำขอไปยัง API ของ omni-moderation-latest

เมื่อมี API key แล้ว คุณสามารถเรียกใช้ Chat endpoint ที่รองรับ OpenAI บน CometAPI โดยระบุ omni-moderation-latest เป็นโมเดล ตัวอย่าง:

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "Sample text to classify for safety."
  }'

คุณยังสามารถส่งอินพุตการกลั่นกรองแบบมัลติโหมดเมื่อเวิร์กโฟลว์ของคุณมีภาพได้ หากไคลเอนต์และรูปแบบคำขอของคุณปฏิบัติตามสคีมาของการกลั่นกรองที่โมเดลรองรับ เอกสาร API การกลั่นกรองของ OpenAI แสดงให้เห็นว่า omni-moderation-latest รองรับสตริงข้อความ อาเรย์ของสตริง และอ็อบเจกต์อินพุตแบบมัลติโหมด

ขั้นตอนที่ 3: ดึงและตรวจสอบผลลัพธ์

การตอบกลับของ API จะส่งคืนออบเจกต์ผลการกลั่นกรองที่มีข้อมูลโมเดลที่ใช้ การตัดสินใจ flagged ป้ายกำกับในระดับหมวดหมู่ และคะแนนหมวดหมู่ หลังจากได้รับผลลัพธ์แล้ว ให้ตรวจสอบว่าเนื้อหาเกินเกณฑ์นโยบายของแอปพลิเคชันของคุณหรือไม่ก่อนอนุญาตให้เข้าสู่กระบวนการในผลิตภัณฑ์ สำหรับการใช้งานจริง หลายทีมผสานการตั้งเกณฑ์อัตโนมัติเข้ากับการบันทึกคอนเทนต์ คิวการทบทวนโดยมนุษย์ และกฎทางธุรกิจเฉพาะนโยบาย