المواصفات التقنية لـ omni-moderation-latest
| السمة | التفاصيل |
|---|---|
| معرّف النموذج | omni-moderation-latest |
| المزوّد | OpenAI |
| نوع النموذج | نموذج إشراف لتصنيف السلامة |
| حالة الاستخدام الأساسية | اكتشاف المحتوى المحتمل ضرره في مدخلات المستخدم أو مخرجات النموذج |
| المدخلات المدعومة | النصوص والصور |
| نوع المخرجات | نتائج إشراف مُهيكلة بصيغة نص/JSON، بما في ذلك العلامات، والفئات، والدرجات |
| نقطة النهاية | Moderations API |
| دعم متعدد الوسائط | نعم؛ يدعم كائنات الإدخال متعددة الوسائط، بما في ذلك عناوين URL للصور أو بيانات الصور بتشفير base64 |
| الحالة الافتراضية/الأحدث | توثّق OpenAI أنه أحدث نموذج إشراف من عائلة omni والخيار الموصى به لعمليات تكامل الإشراف الجديدة |
| البديل القديم | text-moderation-latest هو الخيار الأقدم المقتصر على النص بعدد تصنيفات أقل |
| ملف الأداء | تدرجه OpenAI كنموذج إشراف عالي الأداء بسرعة متوسطة |
| التسعير | تصف OpenAI نماذج الإشراف بأنها مجانية |
ما هو omni-moderation-latest؟
omni-moderation-latest هو نموذج الإشراف الحالي من OpenAI لتحديد المحتوى غير الآمن أو الحساس من حيث السياسات في النصوص والصور. وقد صُمّم للمطورين الذين يحتاجون إلى فحص مطالبات المستخدمين، والوسائط المرفوعة، أو مخرجات النماذج قبل عرضها للمستخدمين النهائيين أو تمريرها إلى الأنظمة اللاحقة.
قدّمت OpenAI نموذج omni-moderation-latest كترقية متعددة الوسائط لنماذج الإشراف السابقة. ووفقًا لوثائق OpenAI، فهو أكثر قدرة من خيارات الإشراف القديمة المقتصرة على النص، ويدعم تصنيفات أوسع، وهو الخيار الأفضل للتطبيقات الجديدة التي تستخدم نقطة نهاية الإشراف.
عمليًا، تستخدم الفرق omni-moderation-latest لإشراف المدخلات، وإشراف المخرجات، ومسارات الثقة والأمان، وتصفية المنتديات، ومراجعة المحتوى الاجتماعي، وأتمتة اكتشاف الإساءة حيث تكون هناك حاجة لفرز تلقائي سريع قبل المراجعة البشرية أو منطق الإنفاذ. وهذا استنتاج على مستوى التطبيق يستند إلى إرشادات الإشراف وواجهة برمجة تطبيقات OpenAI.
الميزات الرئيسية لـ omni-moderation-latest
- إشراف متعدد الوسائط: يقبل النموذج مدخلات نصية وصورية، ما يجعله مناسبًا للتطبيقات الحديثة التي تحتاج إلى تقييم رسائل المستخدم جنبًا إلى جنب مع المحتوى المرئي المرفوع.
- تصنيفات أمان أوسع: تشير OpenAI إلى أنّ عائلة نماذج omni للإشراف تدعم خيارات تصنيف أكثر من نماذج الإشراف النصية القديمة.
- مخرجات أمان مُهيكلة: تتضمن الاستجابات كائن إشراف يحتوي على حقول مثل
flagged، وتسميات الفئات، ودرجات الفئات، ما يسهل أتمتة منطق السماح أو الحظر أو المراجعة أو التصعيد. - دقة محسّنة: أفادت OpenAI بأن
omni-moderation-latestأكثر دقة من الجيل السابق من نماذج الإشراف، خصوصًا للمحتوى غير الإنجليزي. - دعم تصنيف واعٍ بالصور: يمكن للواجهة استيعاب عناوين URL للصور أو بيانات الصور المشفّرة base64 كمدخلات للإشراف، ما يتيح فحص الأصول البصرية المرفوعة أو المرتبطة.
- الأنسب للتكاملات الجديدة: يوصي دليل الإشراف من OpenAI صراحةً باستخدام نماذج omni الجديدة لعمليات التكامل الجديدة بدل عائلة النماذج النصية القديمة.
- استخدام إشراف مجاني من جهة المزوّد: تصف قائمة نماذج OpenAI نماذج الإشراف بأنها مجانية، ما يجعلها جذابة لمسارات تصفية السلامة واسعة النطاق.
كيفية الوصول إلى omni-moderation-latest ودمجه
الخطوة 1: التسجيل للحصول على مفتاح API
للبدء باستخدام omni-moderation-latest، سجّل أولًا في CometAPI وأنشئ مفتاح API من لوحة التحكم. بعد إنشاء المفتاح، خزّنه بأمان في متغير بيئي مثل COMETAPI_API_KEY. سيُستخدم هذا المفتاح لمصادقة كل طلب ترسله إلى النموذج.
الخطوة 2: إرسال طلبات إلى واجهة برمجة التطبيقات الخاصة بـ omni-moderation-latest
بمجرد حصولك على مفتاح API، يمكنك استدعاء نقطة نهاية الدردشة المتوافقة مع OpenAI على CometAPI مع تحديد omni-moderation-latest كنموذج. مثال:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
يمكنك أيضًا إرسال مدخلات إشراف متعددة الوسائط عندما تتضمن سير عملك صورًا، بشرط أن يلتزم عميلك وتنسيق الطلب بمخطط الإشراف الأعلى المُدعَم من النموذج. تُظهر وثائق واجهة الإشراف من OpenAI أن omni-moderation-latest يدعم سلاسل نصية، ومصفوفات من السلاسل، وكائنات إدخال متعددة الوسائط.
الخطوة 3: استرجاع النتائج والتحقق منها
ستستجيب الواجهة بكائن نتيجة إشراف يتضمن النموذج المستخدم، وقرار flagged، وتسميات الفئات، ودرجات الفئات. بعد تلقي الاستجابة، تحقّق ممّا إذا كان المحتوى يتجاوز عتبة السياسات في تطبيقك قبل السماح له بالدخول إلى مسار المنتج. للاستخدام الإنتاجي، تجمع العديد من الفرق بين تحديد العتبات تلقائيًا والتسجيل والمراجعات اليدوية وقواعد عمل خاصة بالسياسة.